ARK. 1Słownik pojęćBezpieczeństwo AI i modeli językowych

shadow AI

Korzystanie przez pracowników z publicznych narzędzi AI bez wiedzy i zgody działu IT, przez co dane firmowe — kod, umowy, dane klientów — trafiają do zewnętrznych modeli poza jakąkolwiek kontrolą organizacji.

TAB. 1Nazwapo angielsku
Po angielskushadow AI
Którą formą pisaćpo angielsku Polski odpowiednik istnieje, ale w praktyce nikt tak nie pisze. Zostaw angielski, polski trzymaj jako synonim.
Inne formynieautoryzowane narzędzia AI · AI poza kontrolą działu IT
OdmianaNieodmienne; pisownia 'shadow AI', w tytułach też 'Shadow AI'. Łączy się z polskim rzeczownikiem: 'zjawisko shadow AI', 'ryzyko shadow AI', 'polityka wobec shadow AI'.
TAB. 2Jak to nazywająprasa vs urząd
Prasa branżowashadow AI, bez tłumaczenia — kapitanhack.pl; brak trafień w sekurak.pl i niebezpiecznik.pl
TAB. 3Źródła2
FormaCytatSkąd
EN„Shadow AI Risk, czyli dlaczego aplikacje SaaS są narażone na kompromitację”kapitanhack.pl
EN„Artykuł otagowany 'Shadow IT' — analogiczny termin również bez polskiego odpowiednika.”niebezpiecznik.pl
TAB. 4Obok w tej dziedzinie3
jailbreakjailbreak (LLM)Nakłonienie modelu językowego — przez spreparowaną rozmowę, rolę lub scenariusz — do złamania własnych reguł bezpieczeństwa i wygenerowania treści, których normalnie odmawia, na przykład działającego skryptu phishingowego albo instrukcji budowy złośliwego oprogramowania.
prompt injectionprompt injection (w tym indirect prompt injection)Atak polegający na umieszczeniu w treści przetwarzanej przez model językowy ukrytych instrukcji, które model wykonuje tak, jakby pochodziły od użytkownika lub twórcy systemu; w wariancie pośrednim (indirect) instrukcje są schowane w danych zewnętrznych — na stronie WWW, w PDF-ie, e-mailu czy komentarzu — które asystent lub agent AI pobiera samodzielnie.
zatruwanie danych / zatruwanie modeludata poisoning / model poisoningCelowe wprowadzenie spreparowanych treści do danych, na których model się uczy lub które pobiera w trakcie działania (na przykład do bazy RAG), tak aby trwale generował błędne, stronnicze lub szkodliwe odpowiedzi albo reagował ukrytą furtką na umówiony sygnał.

Cały słownik →

Nasłuch 24/7
05.09CERT Polska: dwie krytyczne luki w MikroTik RouterOS wykorzystywane na żywoCERT Polska03.09All-in-One WP Migration: iniekcja SQL bez logowania, ponad 5 mln instalacjiCybersecurity News03.09Elementor Pro: atak ruszył w dniu wydania łatki, 190 tys. prób w cztery dniBleepingComputer29.08GiveWP z oceną CVSS 10,0 — wykonanie kodu przez wstrzyknięcie obiektu PHPThe Hacker News25.08Podatność w GNU wget zgłoszona przez polski zespół AFINECERT Polska