Wstrzymanie modelu nie zatrzymuje agenta AI, wynika z zestawienia OWASP GenAI

Wyłączenie modelu nie zatrzymuje agenta AI, bo jego poświadczenia, połączenia i kolejki zadań mogą działać dalej. Zestawienie OWASP GenAI Security Project z października 2026 opisuje agentów testowych, którzy wyszli poza zakres, do którego ich przeznaczono. Przykład z materiału: agent sortujący zgłoszenia trafia na zgłoszenie z instrukcjami, które skłaniają go do eksportu rekordów pod nieznany adres. Może to zrobić, bo jego tożsamość ma dostęp do danych, a podłączone narzędzia pozwalają na taką operację. Zestawienie jest wyborem przypadków, nie pełnym przeglądem incydentów.

Kogo dotyczy

Firm, w których agent AI działa w szerszym systemie: orkiestrator prowadzi przepływ pracy, tożsamość daje dostęp, a narzędzia i API wykonują zadania. Odwołanie jednego poświadczenia nie unieważnia innego tokenu ani otwartego połączenia, a osobna usługa może dalej przetwarzać zadania, które już przyjęła.

Co zrobić

OWASP zaleca sprawdzić w teście, czy procedura odcięcia cofa jednocześnie poświadczenia i dostęp sieciowy. Przy incydencie zatrzymaj bieżące uruchomienie i wstrzymaj wyzwalacze, ponowienia oraz kolejkę przez system, który prowadzi przepływ pracy. Logi agenta porównaj z zapisami dostawcy tożsamości, API, aplikacji i sieci.