ARK. 1Słownik pojęćBezpieczeństwo AI i modeli językowych
jailbreak
Nakłonienie modelu językowego — przez spreparowaną rozmowę, rolę lub scenariusz — do złamania własnych reguł bezpieczeństwa i wygenerowania treści, których normalnie odmawia, na przykład działającego skryptu phishingowego albo instrukcji budowy złośliwego oprogramowania.
TAB. 1Nazwapo angielsku
| Po angielsku | jailbreak (LLM) |
|---|---|
| Po polsku | jailbreak |
| Którą formą pisać | po angielsku Polski odpowiednik istnieje, ale w praktyce nikt tak nie pisze. Zostaw angielski, polski trzymaj jako synonim. |
| Inne formy | obejście zabezpieczeń modelu · złamanie zabezpieczeń modelu |
| Odmiana | Rzeczownik męski nieżywotny: jailbreak, jailbreaku, jailbreakiem, jailbreaki. Nazwa czynności: jailbreaking, jailbreakingu — 'technika jailbreakingu modeli LLM'. Czasownika 'jailbreakować' unikaj w tekście redakcyjnym. |
TAB. 2Jak to nazywająprasa vs urząd
| Prasa branżowa | jailbreak / jailbreaking modeli LLM, bez tłumaczenia — sekurak.pl, niebezpiecznik.pl (tag) |
|---|
TAB. 3Źródła4
| Forma | Cytat | Skąd |
|---|---|---|
| PL (EN) | „Time Bandit czyli jak zmusić ChatGPT-4o do złamania zasad, nowa technika jailbreakingu modeli LLM” | sekurak.pl |
| PL | „Prompt Puppetry – technika, która łamie zabezpieczenia większości LLMów” | sekurak.pl |
| EN | „Artykuł o atakach na agenty AI otagowany m.in. 'jailbreak' i 'prompt injection' — jedyne trafienie o LLM w wynikach ?s=jailbreak.” | niebezpiecznik.pl |
| EN | „Nowy Jailbreak na iOS – checkra1n (dowód na homonimię: w wynikach dominują teksty o telefonach)” | niebezpiecznik.pl |
TAB. 4Obok w tej dziedzinie6
| AI red teaming | AI red teaming | Testowanie systemu AI (chatbota, agenta, modelu) przez symulowanie działań napastnika: próby jailbreaku, prompt injection, wydobycia danych lub wywołania szkodliwych odpowiedzi — zanim zrobią to prawdziwi atakujący. |
| excessive agency | excessive agency (OWASP LLM) | Ryzyko, że model lub agent AI ma więcej narzędzi, uprawnień albo swobody działania, niż potrzebuje — i po pomyłce lub manipulacji wykona szkodliwą akcję, np. usunie dane czy wyśle e-maile. Kategoria z listy OWASP Top 10 dla aplikacji LLM. |
| guardrails | guardrails (LLM) | Warstwa zabezpieczeń wokół modelu językowego: filtry i dodatkowe modele sprawdzające pytania i odpowiedzi chatbota, blokujące szkodliwe treści, wyciek danych czy próby jailbreaku. Pomagają, ale da się je obejść — nie zastępują ograniczenia uprawnień. |
| prompt injection | prompt injection (w tym indirect prompt injection) | Atak polegający na umieszczeniu w treści przetwarzanej przez model językowy ukrytych instrukcji, które model wykonuje tak, jakby pochodziły od użytkownika lub twórcy systemu; w wariancie pośrednim (indirect) instrukcje są schowane w danych zewnętrznych — na stronie WWW, w PDF-ie, e-mailu czy komentarzu — które asystent lub agent AI pobiera samodzielnie. |
| shadow AI | shadow AI | Korzystanie przez pracowników z publicznych narzędzi AI bez wiedzy i zgody działu IT, przez co dane firmowe — kod, umowy, dane klientów — trafiają do zewnętrznych modeli poza jakąkolwiek kontrolą organizacji. |
| slopsquatting | slopsquatting | Atak na łańcuch dostaw oprogramowania: przestępcy rejestrują w repozytoriach (npm, PyPI) pakiety o nazwach, które modele AI „wymyślają” w generowanym kodzie. Programista lub agent AI instaluje zmyśloną zależność i dostaje złośliwy kod. |
TAB. 5