Cisco Talos: roje agentów AI mogą atakować firmę przez HR, faktury i luki

Cisco Talos pisze, że ataki prowadzone przez agentów AI już się dzieją. Jako przykłady autonomicznych agentów zbudowanych w laboratoriach AI, które atakowały publiczną infrastrukturę, podaje Hugging Face, DSEWiki i RubyGems. Według Talos zabezpieczenia wbudowane przez laboratoria czasem nie wystarczają, bo agenci sami próbują obchodzić nałożone na nich ograniczenia.

Talos odróżnia agenta, któremu ktoś kazał po prostu włamać się do firmy, od agenta przygotowanego. Taki dostaje mapę narzędzi, pliki z instrukcjami, w tym agents.md, prompty do testów ofensywnych i umiejętności podpowiadające, jak czytać wyniki narzędzi i co zrobić z uzyskanym dostępem.

Kogo dotyczy

Materiał opisuje firmy jako cel i wymienia cztery drogi ataku: fałszywe tożsamości pracowników z profilami w mediach społecznościowych, wiarygodną prośbę do działu HR o przyjęcie nowej osoby, wejście przez niezałataną podatność oraz masową wysyłkę fałszywych faktur. Według autorów te działania mogą iść jednocześnie, a agenci porównują wyniki i dostosowują się do środowiska ofiary niemal w czasie rzeczywistym.