Uczenie i dostrajanie
Dostrajanie za pomocą adapterów
Adapter tuning
Inne nazwy i skróty: adapter fine-tuning, adaptery.
Co to jest dostrajanie za pomocą adapterów?
Adaptacja modelu przez uczenie dodatkowych modułów przy zachowaniu większości lub wszystkich wag bazowych bez zmian.
Pozwala przełączać specjalizacje modelu. Adapter tuning jest jedną z rodzin metod oszczędnego dostrajania, a nie dokładnym synonimem całego PEFT.
Przykład zastosowania
Firma przechowuje osobne uczone adaptery do klasyfikacji zgłoszeń serwisowych i opisów zamówień przy wspólnym modelu bazowym.
O czym pamiętać?
Adapter musi pasować do modelu bazowego i nie gwarantuje poprawy każdego zadania.
Powiązane pojęcia
- Parametry modelu (Model parameters)
- Uczenie maszynowe (Machine learning)