NIST, NSA i CISA opisały 10 praktyk reagowania na incydenty z udziałem agentów AI

NIST, NSA i CISA opublikowały raport z dziesięcioma praktykami reagowania na incydenty, w których systemy AI działają niezgodnie z przeznaczeniem lub bez autoryzacji. Praktyki ułożono w pięć etapów: przygotowanie, wykrywanie, reakcja, odtworzenie i zgłaszanie. Zgodnie z rozporządzeniem wykonawczym prezydenta nr 14434 raport używa określenia super inteligencja (SI) zamiast sztucznej inteligencji. Definiuje też trzy pojęcia: agent AI, incydent kontroli AI oraz sytuacja bliska takiemu incydentowi.

Kogo dotyczy

Według agencji praktyki są przeznaczone dla branży rozwijającej najbardziej zaawansowane modele SI. Materiał zaznacza jednak, że skuteczne korzystanie z systemów agentowych ma znaczenie dla wszystkich organizacji.

Co zrobić

Na etapie przygotowania raport wymienia inwentaryzację zasobów i ryzyk, zasadę najmniejszych uprawnień, kontrole zero trust i zarządzanie poświadczeniami. Przy incydencie należy odizolować systemy, unieważnić poświadczenia, odbudować przejęte środowiska i ustalić zasięg szkód. Procedury odtwarzania trzeba przetestować z wyprzedzeniem, a incydent zgłosić poszkodowanym, w trybie wymaganym przez prawo oraz publicznie.