ARK. 1Słownik pojęćBezpieczeństwo AI i modeli językowych
excessive agency
Ryzyko, że model lub agent AI ma więcej narzędzi, uprawnień albo swobody działania, niż potrzebuje — i po pomyłce lub manipulacji wykona szkodliwą akcję, np. usunie dane czy wyśle e-maile. Kategoria z listy OWASP Top 10 dla aplikacji LLM.
TAB. 1Nazwapo angielsku
| Po angielsku | excessive agency (OWASP LLM) |
|---|---|
| Po polsku | excessive agency |
| Którą formą pisać | po angielsku Polski odpowiednik istnieje, ale w praktyce nikt tak nie pisze. Zostaw angielski, polski trzymaj jako synonim. |
| Inne formy | nadmierna autonomia modelu · nadmiar uprawnień agenta AI · nadmierna sprawczość |
| Odmiana | nieodmienne; z określeniem: „kategoria Excessive Agency”, „ryzyko Excessive Agency” |
TAB. 2Jak to nazywająprasa vs urząd
| Prasa branżowa | Sekurak: „Excessive Agency – model dostał ręce” i „nadmiar funkcji, na przykład narzędzie do odczytu dokumentów potrafi je również usuwać”; dlaTesterów: „Model ma zbyt dużą autonomię w podejmowaniu decyzji”. |
|---|
TAB. 3Źródła3
| Forma | Cytat | Skąd |
|---|---|---|
| EN | „Prompt Injection utrzymał pierwsze miejsce, a Sensitive Information Disclosure drugie. Excessive Agency awansowało z miejsca 6. na 3.” | sekurak.pl |
| EN | „LLM08: Excessive Agency Model ma zbyt dużą autonomię w podejmowaniu decyzji.” | dlatesterow.pl |
| EN | „Excessive Agency is the vulnerability that enables damaging actions to be performed in response to unexpected, ambiguous or manipulated outputs” | genai.owasp.org |
TAB. 4Obok w tej dziedzinie6
| AI red teaming | AI red teaming | Testowanie systemu AI (chatbota, agenta, modelu) przez symulowanie działań napastnika: próby jailbreaku, prompt injection, wydobycia danych lub wywołania szkodliwych odpowiedzi — zanim zrobią to prawdziwi atakujący. |
| guardrails | guardrails (LLM) | Warstwa zabezpieczeń wokół modelu językowego: filtry i dodatkowe modele sprawdzające pytania i odpowiedzi chatbota, blokujące szkodliwe treści, wyciek danych czy próby jailbreaku. Pomagają, ale da się je obejść — nie zastępują ograniczenia uprawnień. |
| jailbreak | jailbreak (LLM) | Nakłonienie modelu językowego — przez spreparowaną rozmowę, rolę lub scenariusz — do złamania własnych reguł bezpieczeństwa i wygenerowania treści, których normalnie odmawia, na przykład działającego skryptu phishingowego albo instrukcji budowy złośliwego oprogramowania. |
| prompt injection | prompt injection (w tym indirect prompt injection) | Atak polegający na umieszczeniu w treści przetwarzanej przez model językowy ukrytych instrukcji, które model wykonuje tak, jakby pochodziły od użytkownika lub twórcy systemu; w wariancie pośrednim (indirect) instrukcje są schowane w danych zewnętrznych — na stronie WWW, w PDF-ie, e-mailu czy komentarzu — które asystent lub agent AI pobiera samodzielnie. |
| shadow AI | shadow AI | Korzystanie przez pracowników z publicznych narzędzi AI bez wiedzy i zgody działu IT, przez co dane firmowe — kod, umowy, dane klientów — trafiają do zewnętrznych modeli poza jakąkolwiek kontrolą organizacji. |
| slopsquatting | slopsquatting | Atak na łańcuch dostaw oprogramowania: przestępcy rejestrują w repozytoriach (npm, PyPI) pakiety o nazwach, które modele AI „wymyślają” w generowanym kodzie. Programista lub agent AI instaluje zmyśloną zależność i dostaje złośliwy kod. |