Jakość i bezpieczeństwo
Oparcie odpowiedzi na źródłach
Grounding
Inne nazwy i skróty: ugruntowanie odpowiedzi, grounding.
Co to jest oparcie odpowiedzi na źródłach?
Powiązanie odpowiedzi modelu z dostępnymi informacjami, takimi jak dokumenty, wyniki wyszukiwania lub dane z narzędzia.
RAG jest jedną z metod uzyskiwania takiego oparcia. Obecność źródeł nie zastępuje oceny, czy odpowiedź jest z nimi zgodna.
Jak tłumaczyć ten termin?
Opisowe „oparcie odpowiedzi na źródłach” jest czytelniejsze dla początkujących niż samo „ugruntowanie”.
Przykład zastosowania
Odpowiedź o terminie zwrotu opiera się na przekazanym regulaminie i wskazuje właściwy fragment.
O czym pamiętać?
Obecność źródeł nie zastępuje oceny, czy odpowiedź jest z nimi zgodna.
Powiązane pojęcia
- Nadzór człowieka (Human oversight)
- Ocena jakości systemu AI (AI evaluation)