shadow AI

Shadow AI to korzystanie przez pracowników z narzędzi sztucznej inteligencji bez wiedzy i zgody działu IT oraz działu bezpieczeństwa. Polski serwis Kapitan Hack opisuje zjawisko jako używanie AI lub autonomicznych agentów bez formalnego nadzoru tych działów ^[6]. Skutkiem jest przepływ danych firmowych, takich jak kod, umowy czy dane klientów, do zewnętrznych modeli, nad którymi organizacja nie ma kontroli. Shadow AI jest odmianą szerszego zjawiska shadow IT, czyli używania nieautoryzowanych usług i urządzeń.

Jak działa

Mechanizm jest prosty i zwykle nie ma w nim złej woli. Pracownik chce szybciej napisać odpowiedź do klienta, przejrzeć kod albo streścić notatkę ze spotkania. Otwiera publiczny czat AI na prywatnym koncie i wkleja do niego treść. Od tej chwili dane leżą na serwerach dostawcy usługi, na warunkach, które zaakceptował pracownik, a nie firma.

Skala zjawiska jest duża. W badaniu Microsoft Work Trend Index z 2024 roku, przeprowadzonym na 31 tysiącach pracowników umysłowych na 31 rynkach, 78% użytkowników AI deklarowało, że przynosi do pracy własne narzędzia AI; w małych i średnich firmach odsetek wynosił 80% ^[2]. Ten sam raport podaje, że 52% takich osób niechętnie przyznaje się do używania AI przy najważniejszych zadaniach ^[2], co utrudnia wykrycie zjawiska przez samą rozmowę.

Drogę danych pokazuje schemat poniżej.

RYS. 1Droga danych w shadow AI

Odmiany

Shadow AI nie ogranicza się do czatu w przeglądarce. Kapitan Hack zwraca uwagę na AI wbudowaną w aplikacje SaaS, której klient często w ogóle nie jest świadomy ^[6].

Ostatnia postać jest najgroźniejsza. Kapitan Hack wskazuje tokeny OAuth jako najsłabsze ogniwo: skradziony token omija uwierzytelnianie wieloskładnikowe (MFA), bo dostęp idzie przez zaufaną integrację ^[6].

W WordPressie

Na stronach WordPress shadow AI ma dwie typowe postacie.

Wtyczki AI instalowane bez uzgodnienia. Administrator albo agencja dodaje wtyczkę do generowania treści, tłumaczeń czy czatu z klientem. Wtyczka wysyła treść wpisów, komentarze albo wiadomości z formularzy do zewnętrznego API. Wytyczne katalogu wtyczek WordPress.org mówią, że wtyczka nie może łączyć się z zewnętrznymi serwerami bez wyraźnej i świadomej zgody, zwykle w formie opt-in ^[5]. Wymagają też opisania w pliku readme, jakie dane są zbierane i jak używane, najlepiej z linkiem do polityki prywatności ^[5]. Wtyczka będąca interfejsem do usługi zewnętrznej musi tę usługę udokumentować, najlepiej z linkiem do jej regulaminu ^[5]. Lektura readme przed instalacją pokazuje więc, dokąd trafią dane. Wtyczki spoza katalogu tych zasad nie muszą przestrzegać.

Wklejanie konfiguracji i logów do czatu. Przy szukaniu błędu łatwo wkleić do czatu AI cały plik wp-config.php, zrzut bazy albo log serwera. W pliku konfiguracyjnym są dane uwierzytelniające do bazy oraz klucze bezpieczeństwa i sole, a w zrzucie bazy dane użytkowników. Po takim wklejeniu sekrety trzeba traktować jak ujawnione i zmienić je, zgodnie z zasadami zarządzania sekretami.

Zagrożenia i skutki

OWASP opisuje ryzyko ujawnienia informacji wrażliwych w aplikacjach LLM: użytkownicy mogą nieumyślnie przekazać modelowi poufne dane, które później pojawią się w odpowiedziach, co narusza prywatność i własność intelektualną ^[4]. Do danych wrażliwych OWASP zalicza dane osobowe, dane finansowe, dokumentację medyczną, poufne dane biznesowe, dane logowania i dokumenty prawne ^[4].

Raport IBM Cost of a Data Breach z 2025 roku zmierzył skutki shadow AI. Co piąta badana organizacja zgłosiła naruszenie spowodowane przez shadow AI ^[1]. Organizacje z wysokim poziomem shadow AI płaciły za naruszenie średnio o 670 tysięcy dolarów więcej niż te z niskim poziomem albo bez niego ^[1]. W takich incydentach częściej wyciekały dane osobowe (65% wobec średniej 53%) i własność intelektualna (40% wobec 33%) ^[1].

Skutki prawne zależą od rodzaju danych. Gdy do zewnętrznego modelu trafiają dane osobowe klientów, w grę wchodzi RODO: dostawca narzędzia przetwarza je bez umowy powierzenia, a zdarzenie może być naruszeniem ochrony danych osobowych.

Jak się bronić

Zakaz sam w sobie rzadko wystarcza, bo pracownicy wracają do narzędzi, które przyspieszają im pracę. Skuteczniejsze jest połączenie kilku środków.

• Polityka. Spisana polityka bezpieczeństwa wskazuje dozwolone narzędzia i kategorie danych, których nie wolno do nich wklejać. Według IBM tylko 37% organizacji ma zasady zarządzania AI albo wykrywania shadow AI ^[1].
• Audyt. Wśród organizacji z polityką AI tylko 34% regularnie sprawdza użycie niezatwierdzonych narzędzi ^[1]. Pomagają przegląd integracji OAuth i ruchu sieciowego oraz narzędzia DLP (ochrona przed wyciekiem danych).
• Zatwierdzona alternatywa. Firmowe konto w usłudze AI z umową, która wyklucza trening na danych klienta. OWASP zaleca przejrzystość w sprawie przechowywania danych i możliwość rezygnacji z ich użycia do treningu ^[4].
• Szkolenia. OWASP wymienia edukację użytkowników w bezpiecznym korzystaniu z LLM, w tym unikaniu wprowadzania danych wrażliwych ^[4]; zob. szkolenia z cyberbezpieczeństwa dla pracowników.
• Najmniejsze uprawnienia. Integracje AI dostają tylko potrzebny zakres dostępu, zgodnie z zasadą najmniejszych uprawnień ^[4].

Historia i przykłady

Najczęściej przywoływany przypadek dotyczy Samsunga. Według TechCrunch wewnętrzne, wrażliwe dane firmy przypadkowo trafiły do ChatGPT, a od 1 maja 2023 roku firma zakazała używania narzędzi generatywnej AI na służbowych komputerach, tabletach i telefonach oraz na prywatnych urządzeniach w sieci wewnętrznej ^[3]. W notatce do pracowników firma uzasadniła decyzję trudnością w odzyskaniu i usunięciu danych z zewnętrznych serwerów oraz ryzykiem ich ujawnienia innym użytkownikom ^[3]. Zakaz miał obowiązywać do czasu przygotowania środków pozwalających bezpiecznie korzystać z AI ^[3]. W wewnętrznej ankiecie firmy około 65% uczestników uznało, że korzystanie z narzędzi generatywnej AI niesie ryzyko dla bezpieczeństwa ^[3].