ARK. 1Słownik pojęćBezpieczeństwo AI i modeli językowych
guardrails
Warstwa zabezpieczeń wokół modelu językowego: filtry i dodatkowe modele sprawdzające pytania i odpowiedzi chatbota, blokujące szkodliwe treści, wyciek danych czy próby jailbreaku. Pomagają, ale da się je obejść — nie zastępują ograniczenia uprawnień.
TAB. 1Nazwapo angielsku
| Po angielsku | guardrails (LLM) |
|---|---|
| Po polsku | guardrails |
| Którą formą pisać | po angielsku Polski odpowiednik istnieje, ale w praktyce nikt tak nie pisze. Zostaw angielski, polski trzymaj jako synonim. |
| Inne formy | bariery ochronne AI · filtry bezpieczeństwa AI · model typu Guard |
| Odmiana | zwykle liczba mnoga, spolszczana: guardraile, w guardrailach, ograniczenia guardrails |
TAB. 2Jak to nazywająprasa vs urząd
| Prasa branżowa | Security Bez Tabu spolszcza: „Guardraile dla dużych modeli językowych to mechanizmy bezpieczeństwa”; Securitum w programie szkolenia: „ograniczenia samych guardrails”. |
|---|---|
| Urząd i ustawa | NASK (PL-Guard) opisuje to bez angielskiego terminu: „model typu Guard” działający „jako filtr”. |
TAB. 3Źródła4
| Forma | Cytat | Skąd |
|---|---|---|
| EN | „Guardraile dla dużych modeli językowych to mechanizmy bezpieczeństwa, które mają ograniczać generowanie niepożądanych odpowiedzi” | securitybeztabu.pl |
| EN | „Techniki obrony i ograniczenia samych guardrails.” | sklep.securitum.pl |
| PL | „Bariery ochronne AI (AI guardrails) to zestaw mechanizmów technicznych, organizacyjnych i proceduralnych” | commint.pl |
| PL | „Taki model działa jako filtr – analizuje to, co „mówi” duży model językowy i sprawdza, czy przypadkiem nie pojawiło się coś niewłaściwego.” | nask.pl |
TAB. 4Obok w tej dziedzinie6
| AI red teaming | AI red teaming | Testowanie systemu AI (chatbota, agenta, modelu) przez symulowanie działań napastnika: próby jailbreaku, prompt injection, wydobycia danych lub wywołania szkodliwych odpowiedzi — zanim zrobią to prawdziwi atakujący. |
| excessive agency | excessive agency (OWASP LLM) | Ryzyko, że model lub agent AI ma więcej narzędzi, uprawnień albo swobody działania, niż potrzebuje — i po pomyłce lub manipulacji wykona szkodliwą akcję, np. usunie dane czy wyśle e-maile. Kategoria z listy OWASP Top 10 dla aplikacji LLM. |
| jailbreak | jailbreak (LLM) | Nakłonienie modelu językowego — przez spreparowaną rozmowę, rolę lub scenariusz — do złamania własnych reguł bezpieczeństwa i wygenerowania treści, których normalnie odmawia, na przykład działającego skryptu phishingowego albo instrukcji budowy złośliwego oprogramowania. |
| prompt injection | prompt injection (w tym indirect prompt injection) | Atak polegający na umieszczeniu w treści przetwarzanej przez model językowy ukrytych instrukcji, które model wykonuje tak, jakby pochodziły od użytkownika lub twórcy systemu; w wariancie pośrednim (indirect) instrukcje są schowane w danych zewnętrznych — na stronie WWW, w PDF-ie, e-mailu czy komentarzu — które asystent lub agent AI pobiera samodzielnie. |
| shadow AI | shadow AI | Korzystanie przez pracowników z publicznych narzędzi AI bez wiedzy i zgody działu IT, przez co dane firmowe — kod, umowy, dane klientów — trafiają do zewnętrznych modeli poza jakąkolwiek kontrolą organizacji. |
| slopsquatting | slopsquatting | Atak na łańcuch dostaw oprogramowania: przestępcy rejestrują w repozytoriach (npm, PyPI) pakiety o nazwach, które modele AI „wymyślają” w generowanym kodzie. Programista lub agent AI instaluje zmyśloną zależność i dostaje złośliwy kod. |
TAB. 5