Globalne Gwarancje Odporności: Probabilistyczne Podejście do Bezpieczeństwa AI
Współczesne modele uczenia maszynowego, od systemów rozpoznawania obrazu po wielkie modele językowe, osiągnęły imponujące zdolności. Jednak ich siła bywa zwodnicza. Jednym z największych wyzwań w dziedzinie AI jest ich podatność na ataki adwersarialne (ang. adversarial attacks). Są to celowo spreparowane, niewielkie zaburzenia danych wejściowych (np. zmiana kilku pikseli w obrazie), które są niezauważalne dla człowieka, ale potrafią całkowicie zmylić model, prowadząc do błędnych i często absurdalnych decyzji. Do tej pory walka z tym problemem koncentrowała się na dwóch głównych frontach: ...