Bomby kontekstowe Tracebit obniżyły skuteczność ataków agentów AI z 39 do 2 na 40

Tracebit, firma z Londynu i Nowego Jorku, opisała dziewięć „bomb kontekstowych”, czyli ukrytych podpowiedzi. Atakujący agent AI wczytuje je, gdy przeszukuje cel, a one odciągają go od zadania. W testach z modelami GPT 5.6 Cyber, Kimi K3, Qwen 3.8 Max i DeepSeek V4 Pro liczba przebiegów, w których atak osiągnął cel, spadła z 39 na 40 do 2 na 40. W przypadku Claude Opus 5 skuteczność ataków spadła o 91 procent. W przypadku GPT-6 Astra spadła o 54 procent, a koszt jednego ataku wzrósł prawie czterokrotnie. Najskuteczniejszy okazał się fałszywy raport z testów penetracyjnych: agent uznawał prawdziwe systemy za pułapki i je omijał.

Kogo dotyczy

Badanie dotyczy obrony przed atakami prowadzonymi przez agentów AI. Pozostałe pułapki to niekończąca się usługa sieciowa, pozorne hasła ukryte pod kolejnymi warstwami szyfrowania i nieskończona baza danych. Najlepszy wynik dało połączenie wszystkich dziewięciu. Wtedy żaden z modeli firm Moonshot, Alibaba i DeepSeek nie osiągnął celu.