Uczenie i dostrajanie
Pełne dostrajanie modelu
Full fine-tuning
Inne nazwy i skróty: full tuning, pełny fine-tuning.
Co to jest pełne dostrajanie modelu?
Dalsze uczenie, w którym do aktualizacji dopuszcza się wszystkie parametry modelu.
Daje dużą swobodę adaptacji, lecz zazwyczaj wymaga więcej pamięci i obliczeń niż metody uczące małe dodatkowe moduły.
Przykład zastosowania
Zespół aktualizuje wszystkie dopuszczone parametry modelu na danych branżowych i porównuje jakość z wariantem LoRA.
O czym pamiętać?
Proces może pogorszyć wcześniejsze zdolności i wymaga znacznych zasobów treningowych.
Powiązane pojęcia
- Parametry modelu (Model parameters)
- Uczenie maszynowe (Machine learning)