Jakość i bezpieczeństwo
Dostosowanie AI do ludzkich celów i wartości
AI alignment
Inne nazwy i skróty: alignment, wyrównanie celów AI, zestrojenie AI.
Co to jest dostosowanie ai do ludzkich celów i wartości?
Prace nad tym, aby zachowanie systemu AI odpowiadało zamierzonym celom, ograniczeniom i wartościom ludzi.
Obejmuje uczenie, ocenę i zabezpieczenia; samo wykonywanie poleceń użytkownika nie wystarcza, jeśli polecenia są sprzeczne lub szkodliwe.
Jak tłumaczyć ten termin?
Polski tytuł jest opisowym odpowiednikiem; w praktyce spotyka się również angielskie „alignment”.
Przykład zastosowania
Zespół ocenia, czy asystent odmawia ujawnienia danych klienta mimo wyraźnego polecenia rozmówcy.
O czym pamiętać?
Zgodność zachowania w testach nie dowodzi bezpieczeństwa w każdej przyszłej sytuacji.
Powiązane pojęcia
- Nadzór człowieka (Human oversight)
- Ocena jakości systemu AI (AI evaluation)