Jakość i bezpieczeństwo
Stronniczość AI
AI bias
Inne nazwy i skróty: algorithmic bias, stronniczość algorytmiczna.
Co to jest stronniczość ai?
Systematyczne zniekształcenie wyników, które może prowadzić do nierównego lub nieadekwatnego traktowania osób i grup.
Jego źródłem bywają dane, sposób zdefiniowania zadania i wdrożenie, dlatego sama zmiana modelu może nie usunąć problemu.
Przykład zastosowania
Zespół porównuje skuteczność klasyfikatora zgłoszeń napisanych różnymi odmianami języka i wykrywa systematyczną różnicę błędów.
O czym pamiętać?
Wyrównanie jednego wskaźnika nie usuwa automatycznie wszystkich form nierównego traktowania.
Powiązane pojęcia
- Ocena jakości systemu AI (AI evaluation)
- Wyraz wolny w modelu (Bias parameter)
- Założenia indukcyjne (Inductive bias)