ARK. 1Słownik pojęćBezpieczeństwo AI i modeli językowych
prompt injection
Atak polegający na umieszczeniu w treści przetwarzanej przez model językowy ukrytych instrukcji, które model wykonuje tak, jakby pochodziły od użytkownika lub twórcy systemu; w wariancie pośrednim (indirect) instrukcje są schowane w danych zewnętrznych — na stronie WWW, w PDF-ie, e-mailu czy komentarzu — które asystent lub agent AI pobiera samodzielnie.
TAB. 1Nazwapo angielsku
| Po angielsku | prompt injection (w tym indirect prompt injection) |
|---|---|
| Po polsku | prompt injection |
| Którą formą pisać | po angielsku Polski odpowiednik istnieje, ale w praktyce nikt tak nie pisze. Zostaw angielski, polski trzymaj jako synonim. |
| Inne formy | wstrzyknięcie promptu · wstrzyknięcie złośliwego promptu |
| Odmiana | Termin nieodmienny, używany jako przydawka po rzeczowniku rodzajowym: 'atak typu prompt injection', 'podatność na prompt injection', 'kampania z prompt injection'. Nie odmieniaj przez przypadki ('promptu injection' jest błędne). Odmienny jest tylko sam 'prompt': promptu, promptem, prompty. |
TAB. 2Jak to nazywająprasa vs urząd
| Prasa branżowa | prompt injection / indirect prompt injection, bez tłumaczenia — sekurak.pl, niebezpiecznik.pl |
|---|
TAB. 3Źródła4
| Forma | Cytat | Skąd |
|---|---|---|
| EN | „Nowy wektor ataku łączący indirect prompt injection z cloakingiem wymierzony w autonomicznych agentów AI” | sekurak.pl |
| EN | „kolejna sprytna technika prompt injection w wydaniu indirect” | sekurak.pl |
| PL | „Możliwość wstrzyknięcia złośliwego promptu w Slack AI” | sekurak.pl |
| EN | „Można ukrywać niebezpieczne polecenia dla AI w instrukcjach formatowania Markdown albo LaTeX (tzw. (indirect) prompt injection).” | niebezpiecznik.pl |
TAB. 4Obok w tej dziedzinie6
| excessive agency | excessive agency (OWASP LLM) | Ryzyko, że model lub agent AI ma więcej narzędzi, uprawnień albo swobody działania, niż potrzebuje — i po pomyłce lub manipulacji wykona szkodliwą akcję, np. usunie dane czy wyśle e-maile. Kategoria z listy OWASP Top 10 dla aplikacji LLM. |
| guardrails | guardrails (LLM) | Warstwa zabezpieczeń wokół modelu językowego: filtry i dodatkowe modele sprawdzające pytania i odpowiedzi chatbota, blokujące szkodliwe treści, wyciek danych czy próby jailbreaku. Pomagają, ale da się je obejść — nie zastępują ograniczenia uprawnień. |
| jailbreak | jailbreak (LLM) | Nakłonienie modelu językowego — przez spreparowaną rozmowę, rolę lub scenariusz — do złamania własnych reguł bezpieczeństwa i wygenerowania treści, których normalnie odmawia, na przykład działającego skryptu phishingowego albo instrukcji budowy złośliwego oprogramowania. |
| shadow AI | shadow AI | Korzystanie przez pracowników z publicznych narzędzi AI bez wiedzy i zgody działu IT, przez co dane firmowe — kod, umowy, dane klientów — trafiają do zewnętrznych modeli poza jakąkolwiek kontrolą organizacji. |
| slopsquatting | slopsquatting | Atak na łańcuch dostaw oprogramowania: przestępcy rejestrują w repozytoriach (npm, PyPI) pakiety o nazwach, które modele AI „wymyślają” w generowanym kodzie. Programista lub agent AI instaluje zmyśloną zależność i dostaje złośliwy kod. |
| system prompt leakage | system prompt leakage | Ujawnienie instrukcji systemowych, którymi operator steruje chatbotem lub agentem AI — np. gdy użytkownik podstępem skłoni model do wypisania promptu. Groźne, gdy w prompcie zaszyto hasła, klucze API albo reguły dostępu; prompt systemowy nie powinien zawierać sekretów. |
TAB. 5