Symantec: przestępcy przejmują odsłonięte modele AI i planują nimi ataki na koszt

Symantec opisał narzędzie przestępców, które wyszukuje w internecie publicznie dostępne modele AI. Potem używa ich do planowania włamań, a za moc obliczeniową płaci właściciel modelu. Nie chodzi o lukę w jednym produkcie, więc nie ma poprawki do zainstalowania.

Badacze Priti More i Susmit Yenkar przechwycili latem instrukcje agenta. Pomogła im pułapka udająca niezabezpieczoną usługę AI. Przejęty model ma szukać nowych celów, atakować popularne frameworki webowe, wykradać bazy danych i dane logowania oraz instalować koparki kryptowalut. Może wykonać do 100 000 kroków bez zgody człowieka. Symantec nazywa to LLMjackingiem. Pułapka zarejestrowała ponad 127 000 żądań z dziesiątek tysięcy adresów. Były to głównie rozpoznanie, próby z wykradzionymi kluczami API i szukanie odsłoniętych plików konfiguracyjnych.

Kogo dotyczy

Zagrożone są własne serwery modeli, które domyślnie zostają otwarte, oraz bramki AI obsługujące płatne konta firmy. Na liście są też pospiesznie uruchomione wewnętrzne systemy testowe i serwery MCP łączące model z narzędziami. Większość z nich korzysta z interfejsu zgodnego z OpenAI, więc jeden skaner znajduje je wszystkie.