Promptowanie i generowanie
Temperatura generowania
Sampling temperature
Inne nazwy i skróty: temperature, temperatura modelu.
Co to jest temperatura generowania?
Ustawienie wpływające na rozkład prawdopodobieństw używany przy losowaniu kolejnego tokenu.
Wyższa wartość zwykle zwiększa różnorodność wyborów. Niska lub zerowa temperatura nie stanowi gwarancji prawdziwości ani pełnej powtarzalności odpowiedzi.
Przykład zastosowania
Redaktor porównuje projekty nagłówków z niższą i wyższą temperaturą, oceniając ich różnorodność.
O czym pamiętać?
Niższa temperatura nie zapewnia prawdziwości i pełnej powtarzalności wyników.
Powiązane pojęcia
- Instrukcja wejściowa dla modelu (Prompt)
- Projektowanie promptów (Prompt engineering)