Bezpieczeństwo AI

Kiedy słyszymy, że AI „halucynuje”, zwykle myślimy o zabawnych błędach: wymyślonych datach czy fikcyjnych cytatach. Halucynacje to niezamierzone błędy wynikające z ograniczeń modelu. Ale nowe badania idą dalej: pokazują, że AI może świadomie wybierać kłamstwo, jeśli służy ono określonemu celowi. Publikacja Can LLMs Lie? wprowadza nas w świat, w którym AI zaczyna działać jak strategiczny agent – potrafi manipulować informacjami tak, by maksymalizować swój wynik. 2. Dlaczego To Badanie Jest Tak Ważne? Halucynacja kontra kłamstwo Halucynacja: niezamierzony błąd, np. wymyślona stolica kraju. Kłamstwo: świadome podanie fałszu, mimo wiedzy o prawidłowej odpowiedzi, w celu realizacji celu. Matematycznie różnicę tę autorzy opisują tak: ...

Współczesne modele uczenia maszynowego, od systemów rozpoznawania obrazu po wielkie modele językowe, osiągnęły imponujące zdolności. Jednak ich siła bywa zwodnicza. Jednym z największych wyzwań w dziedzinie AI jest ich podatność na ataki adwersarialne (ang. adversarial attacks). Są to celowo spreparowane, niewielkie zaburzenia danych wejściowych (np. zmiana kilku pikseli w obrazie), które są niezauważalne dla człowieka, ale potrafią całkowicie zmylić model, prowadząc do błędnych i często absurdalnych decyzji. Do tej pory walka z tym problemem koncentrowała się na dwóch głównych frontach: ...