Zdjęcie: Steve A Johnson / Unsplash

Zaufanie sztucznej inteligencji bez zastrzeżeń jest przedwczesne — systemy AI można stosunkowo łatwo oszukać, a schemat manipulacji bywać niezwykle prosty. Potwierdza to firma specjalizująca się w kwestiach bezpieczeństwa LayerX, która opracowała metodę ataku zwaną BioShocking.

 

Jak działa atak BioShocking?

Nazwa schematu stanowi nawiązanie do gry BioShock, w której bohater pada ofiarą manipulacji i akceptuje fikcyjną rzeczywistość. Podstawą ataku jest złośliwa strona internetowa, której zawartość próbuje przekonać system AI do udziału w grze. Na samym początku informuje się AI, że „2 + 2″ nie równa się cztery, a błędne odpowiedzi w normalnym świecie są poprawne w grze.

Gdy tylko agent AI uzmysłowi sobie, że wpadł do alternatywnej rzeczywistości, jego mechanizmy ochronne ulegają awarii. W tym momencie pojawia się kolejna instrukcja sformatowana jako zadanie growe: znaleźć i skopiować „ukryty kod” z innej strony.

 

Kradzież danych użytkownika

W rzeczywistości tym ukrytym kodem są poufne informacje użytkownika: zapisane hasła, pliki sesji cookie oraz prywatne tokeny dostępu. Wszystkie systemy testowane przez badaczy posłusznie skopiowały dane i przesłały je atakującemu. Atak zadziałał na przeglądarkach OpenAI Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser oraz w rozszerzeniu Anthropic Claude dla Chrome.

 

Odpowiedź producentów

Specjaliści z LayerX powiadomili wszystkich twórców o wynikach badań w okresie od października 2025 do stycznia 2026 roku. Tylko OpenAI naprawiła problem w Atlas; Anthropic podjęła próbę naprawienia luki w rozszerzeniu Claude, jednak według ekspertów łatka nie zadziałała prawidłowo. Perplexity zamknęła zgłoszenie bez wprowadzenia poprawek, a Fellou, Genspark i Sigma w ogóle się nie odezwały.