Blog 24/7
ARK. 1 · 1 min czytaniaŚwiat ·

Agent AI uczony na 7132 atakach PISmith dał się przejąć w 19 z 40 zadań

Badacze z Waterloo, Zhejiang i KTH dotrenowali model Qwen3-4B na dwóch zbiorach ataków. Wersja ucząca się na większym zbiorze, z narzędzia PISmith, okazała się łatwiejsza do przejęcia niż ta z RL-Hammer.

Karta wpisu: Agent AI uczony na 7132 atakach PISmith dał się przejąć w 19 z 40 zadań

Agent AI dotrenowany na 7132 skutecznych atakach z narzędzia PISmith dał się w najgorszym przypadku przejąć w 19 z 40 zadań (47,5%), a wersja ucząca się na 4282 atakach z RL-Hammer w 11 z 40 (27,5%). Tak wynika z testu badaczy z University of Waterloo, Zhejiang University i KTH, którzy sprawdzili obie wersje trzema nieznanymi im atakami. Chodzi o polecenia ukryte w mailu, na stronie albo w wyniku narzędzia, które agent wykonuje, na przykład wysyła płatność. Z 560 zadań ćwiczebnych PISmith przełamał 68,75%, RL-Hammer 33,39%. Badacze wiążą wynik, przynajmniej częściowo, z narzędziami, które powtarzają jedną działającą sztuczkę, na przykład wmawiają agentowi, że zadanie użytkownika jest już wykonane.

Kogo dotyczy

Wynik dotyczy twórców agentów AI, którzy wzmacniają je automatycznymi narzędziami ataku, oraz deklaracji dostawców o tysiącach przetestowanych ataków. Test objął model Qwen3-4B i jest niewielki: 40 zadań wybrano, bo proste ataki łamały je już na niechronionym modelu. Wzorzec powtórzył się w trzech z czterech konfiguracji.

TAB. 2

Źródła

1
Help Net Security — Your AI red team may be finding the same prompt injection thousands of timeshelpnetsecurity.com
TAB. 3

Powiązane

3
20.11.2026ŚwiatNapastnik z agentem AI wyniósł z Bell Canada dane klientów firmowych
20.11.2026ŚwiatNarzędzie AI Cairn samo znalazło niezałataną lukę podczas ataku na uczelnie w Azji
20.11.2026ŚwiatTrojan Bazuka na Androida ukrywa kradzież danych pod zrzutem ekranu blokady

Wszystkie wpisy →

Blog 24/7
20.11Napastnik z agentem AI wyniósł z Bell Canada dane klientów firmowychbleepingcomputer.com20.11FCC przedstawi szczegółowe zasady etykiety Cyber Trust Mark dla urządzeń IoTcybersecuritydive.com20.11Narzędzie AI Cairn samo znalazło niezałataną lukę podczas ataku na uczelnie w Azjitherecord.media20.11CERT Polska ostrzega przed fałszywymi e-mailami o nadpłacie za prąd od PGEdobreprogramy.pl20.11CSIRT KNF analizuje incydent w Autopay, dane kart mogły wyciecdobreprogramy.pl20.11Nieautoryzowany dostęp do danych płatników Autopay, banki zastrzegają kartyitwiz.pl20.11WhatsApp łata CVE-2026-23871 w Androidzie, lukę użytą przez oszusta do ujawniania IPsecurityweek.com20.11Trojan Bazuka na Androida ukrywa kradzież danych pod zrzutem ekranu blokadythehackernews.com20.11Poste.io 2.5.22 łata lukę CVE-2026-127027 w obsłudze raportów DMARCcert.pl20.11Wyciek przez lukę u dostawcy Wellington IT dotknął ponad 40 unii kredytowychtherecord.media