Podstawy i pojęcia przekrojowe
Gwałtowna zmiana zdolności lub zachowania AI
Sharp left turn
Inne nazwy i skróty: sharp left turns, ostry zwrot.
Co to jest gwałtowna zmiana zdolności lub zachowania ai?
Określenie scenariusza, w którym zdolności lub zachowanie zaawansowanej AI zmieniają się gwałtownie, a wcześniejsze metody kontroli przestają wystarczać.
Jest terminem dyskusji o ryzyku, nie nazwą powszechnie potwierdzonego zjawiska empirycznego.
Jak tłumaczyć ten termin?
„Gwałtowna zmiana zdolności lub zachowania AI” jest tłumaczeniem opisowym; dosłowne „ostry zwrot w lewo” nie wyjaśnia znaczenia terminu.
Przykład zastosowania
Podczas analizy ryzyka zespół rozważa scenariusz, w którym po zmianie zdolności AI wcześniejsze testy kontroli przestają wystarczać.
O czym pamiętać?
To opis hipotetycznego ryzyka, a nie rozpoznanie potwierdzonej zmiany w danym produkcie.
Powiązane pojęcia
- Model sztucznej inteligencji (Artificial intelligence model)
- Sztuczna inteligencja (Artificial intelligence)