ARK. 1Słownik pojęćBezpieczeństwo AI i modeli językowych

zatruwanie danych / zatruwanie modelu

Celowe wprowadzenie spreparowanych treści do danych, na których model się uczy lub które pobiera w trakcie działania (na przykład do bazy RAG), tak aby trwale generował błędne, stronnicze lub szkodliwe odpowiedzi albo reagował ukrytą furtką na umówiony sygnał.

TAB. 1Nazwaobie formy
Po angielskudata poisoning / model poisoning
Po polskuzatruwanie danych / zatruwanie modelu
Którą formą pisaćobie formy Obie formy są w obiegu. Przy pierwszym wystąpieniu pisz „polski termin (english term)”, dalej sam polski.
Inne formyzatruwanie danych treningowych · zatruwanie modelu · zatrucie zbioru uczącego
OdmianaForma angielska nieodmienna, w nawiasie lub cudzysłowie. Forma polska: zatruwanie (danych, modelu), zatruwania, zatruwaniem; czasownik 'zatruć/zatruwać dane'; imiesłów 'zatrute dane treningowe'.
TAB. 2Jak to nazywająprasa vs urząd
Prasa branżowaczasownik po polsku plus angielska nazwa w nawiasie: 'zatruwają wyniki wyszukiwania (SEO poisoning)' — sekurak.pl
TAB. 3Źródła1
FormaCytatSkąd
PL (EN)„cyberprzestępcy zatruwają wyniki wyszukiwania (SEO poisoning), aby dystrybuować złośliwe instalatory”sekurak.pl
TAB. 4Obok w tej dziedzinie3
jailbreakjailbreak (LLM)Nakłonienie modelu językowego — przez spreparowaną rozmowę, rolę lub scenariusz — do złamania własnych reguł bezpieczeństwa i wygenerowania treści, których normalnie odmawia, na przykład działającego skryptu phishingowego albo instrukcji budowy złośliwego oprogramowania.
prompt injectionprompt injection (w tym indirect prompt injection)Atak polegający na umieszczeniu w treści przetwarzanej przez model językowy ukrytych instrukcji, które model wykonuje tak, jakby pochodziły od użytkownika lub twórcy systemu; w wariancie pośrednim (indirect) instrukcje są schowane w danych zewnętrznych — na stronie WWW, w PDF-ie, e-mailu czy komentarzu — które asystent lub agent AI pobiera samodzielnie.
shadow AIshadow AIKorzystanie przez pracowników z publicznych narzędzi AI bez wiedzy i zgody działu IT, przez co dane firmowe — kod, umowy, dane klientów — trafiają do zewnętrznych modeli poza jakąkolwiek kontrolą organizacji.

Cały słownik →

Nasłuch 24/7
05.09CERT Polska: dwie krytyczne luki w MikroTik RouterOS wykorzystywane na żywoCERT Polska03.09All-in-One WP Migration: iniekcja SQL bez logowania, ponad 5 mln instalacjiCybersecurity News03.09Elementor Pro: atak ruszył w dniu wydania łatki, 190 tys. prób w cztery dniBleepingComputer29.08GiveWP z oceną CVSS 10,0 — wykonanie kodu przez wstrzyknięcie obiektu PHPThe Hacker News25.08Podatność w GNU wget zgłoszona przez polski zespół AFINECERT Polska