Jakość i bezpieczeństwo
Nadzór człowieka
Human oversight
Inne nazwy i skróty: nadzór ludzki.
Co to jest nadzór człowieka?
Organizacja pracy, w której człowiek może oceniać działanie AI, korygować je i zatrzymywać.
Nadzór wymaga informacji, czasu i rzeczywistych uprawnień do interwencji. Sam przycisk zatwierdzenia nie zapewnia skutecznej kontroli.
Przykład zastosowania
Kierownik może zatrzymać proces obsługi reklamacji i sprawdzić przesłanki decyzji.
O czym pamiętać?
Sam przycisk zatwierdzenia nie zapewnia skutecznej kontroli.
Powiązane pojęcia
- Agent AI (AI agent)
- Człowiek w pętli działania (Human in the loop)