PwC: firmy są najsłabiej przygotowane na ataki na własne systemy AI

Według raportu PwC Global Digital Trust Insights 2027 firmy są najsłabiej przygotowane na ataki wymierzone w ich własne systemy AI. Badanie objęło blisko 4000 firm i liderów technologicznych z ponad 70 krajów. Firmy najczęściej deklarują brak przygotowania na przejęcie przez autonomiczne botnety (53 proc.), ataki typu adversarial (52 proc.) i zatruwanie danych (52 proc.). Prompt injection, czyli podsuwanie modelowi złośliwych poleceń, zajmuje pierwsze miejsce na tegorocznej liście OWASP zagrożeń dla aplikacji LLM. Liderzy uznają AI za najważniejsze narzędzie obrony przy wykrywaniu zagrożeń i alarmowaniu. Mimo to tylko 22 proc. z nich dopuściłoby w pełni autonomiczne działanie agentów AI bez zgody człowieka. Jako powód 55 proc. podaje zawodność i niedojrzałość tych rozwiązań, a 44 proc. brak kompetencji w nadzorze nad AI.

Kogo dotyczy

Firm, które wdrażają własne systemy AI albo korzystają z aplikacji opartych na modelach językowych. Raport opisuje organizacje z ponad 70 krajów, a materiał nie podaje osobnych danych dla Polski.