Cisco Talos udostępnił CAIRN, zestaw do tropienia malware z AI po metadanych

Cisco Talos udostępnił CAIRN, czyli Cognitive Artifact Intelligence Research Network, zestaw badawczy do tropienia, klasyfikowania i śledzenia malware zintegrowanego z AI. To narzędzie dla obrońców, nie zgłoszenie podatności. CAIRN pracuje wyłącznie na metadanych, bez pobierania i uruchamiania badanych plików. Szuka śladów, które twórcy takiego oprogramowania zostawiają w swoich narzędziach: szablonów promptów, adresów dostawców modeli, kluczy API i ich prefiksów, terminów jailbreak oraz ciągów służących do omijania analizy AI. Zestaw łączy wykrywanie regułowe, klastrowanie semantyczne i przechodzenie grafu relacji, a warstwa eksploratora układa powiązania w graf wskazujący spokrewnione rodziny malware, infrastrukturę i sprawców. Pierwsze opisane znalezisko to CLOSEDQUORUM.

Kogo dotyczy

Według materiału CAIRN adresowany jest do zespołów obrony i badaczy. Klasyfikuje pliki, które wykorzystują systemy AI i ich otoczenie: od wpięcia modeli w łańcuch ataku, przez przejmowanie poświadczeń i infrastruktury, aż do nadużyć na poziomie całego ekosystemu. Pozycje przypisuje do wcześniej zdefiniowanych wzorców użycia AI.