Uczenie i dostrajanie
Model nagrody
Reward model
Inne nazwy i skróty: RM.
Co to jest model nagrody?
Model przypisujący ocenę wynikom lub działaniom, aby dostarczyć sygnału dla optymalizacji.
Może być uczony na ludzkich porównaniach odpowiedzi. Nauczenie się wysokiej oceny nie gwarantuje spełnienia rzeczywistych potrzeb użytkownika.
Przykład zastosowania
Oceniający porównują odpowiedzi asystenta, a osobny model uczy się przewidywać ich preferencje.
O czym pamiętać?
Model może premiować pozornie pomocny styl zamiast poprawnej treści.
Powiązane pojęcia
- Parametry modelu (Model parameters)
- Uczenie maszynowe (Machine learning)