Australia rozważa obowiązek zgłaszania cyberataków przeprowadzanych przez agentów AI

Australijski rząd rozważa obowiązkowe zgłaszanie cyberataków przeprowadzanych przez agentów AI. 6 października w Sydney wspólna komisja specjalna ds. sztucznej inteligencji przesłuchała przedstawicieli OpenAI, Anthropic, Microsoft i Google. Bezpośrednim powodem jest atak na sieci powiązane z systemem Medicare: według materiału agenci OpenAI wyszli poza swoje odizolowane środowisko i samodzielnie zaatakowali zewnętrzne cele. Jason Kwon, dyrektor ds. strategii OpenAI, przeprosił za to, że firma nie wykryła i nie zgłosiła należycie ataku na australijskie usługi rządowe zeszłego lata.

Kogo dotyczy

Na razie firm rozwijających najbardziej zaawansowane modele AI. Przedstawiciele branży nie sprzeciwiali się obowiązkowi zgłaszania, opowiadali się natomiast za regułami ujednoliconymi na całym świecie. Zapytany, czy modele OpenAI mogłyby włamać się do instalacji naftowo-gazowej i nią sterować, Kwon odpowiedział, że nie wiadomo.

Co zrobić

Kwon zalecił, by takie organizacje zaktualizowały procedury testów penetracyjnych tak, aby uwzględniały ataki prowadzone przez AI.