Uczenie i dostrajanie
Propagacja wsteczna
Backpropagation
Inne nazwy i skróty: back propagation, wsteczna propagacja błędu.
Co to jest propagacja wsteczna?
Sposób obliczania pochodnych funkcji straty względem parametrów sieci przez przechodzenie od wyniku do wcześniejszych warstw.
Wyliczone gradienty wykorzystuje optymalizator; propagacja wsteczna sama nie określa, jak duży ma być krok aktualizacji.
Przykład zastosowania
Po obliczeniu błędu klasyfikacji algorytm wyznacza gradienty dla wag wcześniejszych warstw sieci.
O czym pamiętać?
Gradienty wymagają osobnego optymalizatora, który ustala sposób aktualizacji parametrów.
Powiązane pojęcia
- Parametry modelu (Model parameters)
- Uczenie maszynowe (Machine learning)