Jakość i bezpieczeństwo
Wyjaśnialna sztuczna inteligencja
Explainable artificial intelligence
Inne nazwy i skróty: XAI, explainable AI.
Co to jest wyjaśnialna sztuczna inteligencja?
Metody pomagające zrozumieć, jakie czynniki wpływają na wynik modelu.
Wyjaśnienie może dotyczyć pojedynczej decyzji lub całego modelu; należy sprawdzać, czy rzeczywiście odzwierciedla działanie systemu, a nie tylko brzmi przekonująco.
Przykład zastosowania
Analityk sprawdza, które cechy zgłoszenia najbardziej wpłynęły na ocenę pilności klasyfikatora.
O czym pamiętać?
Czytelne wyjaśnienie nie musi wiernie odtwarzać całego mechanizmu decyzji.
Powiązane pojęcia
- Nadzór człowieka (Human oversight)
- Ocena jakości systemu AI (AI evaluation)