Booz Allen: agenci AI w kilka minut przestawiali urządzenia w nieznanych systemach OT

Agenci AI oparci na modelach frontier poruszali się po nieznanych systemach przemysłowych OT. Gdy napotykali blokadę, zmieniali sposób działania, a fizyczne urządzenia przestawiali w ciągu kilku minut. Tak wynika z raportu Booz Allen. Firma przedstawiła go w zeszłym tygodniu na konferencji SecurityWeek ICS Cybersecurity Conference w Nashville, przed publikacją pełnej wersji. Badanie przeprowadzono w odizolowanym laboratorium OT firmy. Agenci nie dostali kodu źródłowego, dokumentacji inżynierskiej ani wytycznych dotyczących OT. Booz Allen nazywa te modele „super intelligence”. SecurityWeek zapytał firmę, co oznacza ten termin, i do chwili publikacji nie dostał odpowiedzi.

Kogo dotyczy

Raport opisuje, jak agenci AI mogą wpłynąć na środowiska przemysłowe OT. Materiał nie wymienia żadnych producentów, produktów, wersji ani podatności. Wszystkie testy odbyły się w laboratorium Booz Allen, a nie w działających zakładach.