Jakość i bezpieczeństwo
Halucynacja modelu
Hallucination
Inne nazwy i skróty: hallucinate, hallucinations, konfabulacja AI.
Co to jest halucynacja modelu?
Wygenerowanie informacji, która jest fałszywa, zmyślona lub nie ma oparcia w dostarczonym materiale.
Może przyjąć postać nieistniejącego źródła albo błędnego szczegółu w streszczeniu. Płynny język i pewny ton nie potwierdzają prawdziwości.
Przykład zastosowania
Asystent podaje numer paragrafu, którego nie ma w analizowanej procedurze.
O czym pamiętać?
Płynny język i pewny ton nie potwierdzają prawdziwości.
Powiązane pojęcia
- Ocena jakości systemu AI (AI evaluation)
- Oparcie odpowiedzi na źródłach (Grounding)