TrendAI: 2457 niszowych usług AI omija standardowe przeglądy bezpieczeństwa

TrendAI wykrył 2457 niszowych usług AI, których twórcy według raportu mogli nigdy nie przejść standardowego przeglądu ładu AI. W publicznym skanie internetu firma sprawdziła 21,6 mln adresów URL i 4,6 mln urządzeń i znalazła 43 175 usług AI w 25 branżach. Za niszowe uznała te, które wystąpiły najwyżej 10 razy w jednej lub dwóch branżach. Kolejne 1468 usług używa tylko jedna branża. Narzędzia i metody oceny ryzyka AI, w tym produkty CASB, projektowano pod produkty największych dostawców, a nie pod mało znane narzędzia.

Kogo dotyczy

Operatorów infrastruktury krytycznej i organizacje korzystające z branżowych narzędzi AI. Raport wymienia platformę do badań prawnych, usługę wykrywania nadużyć dla sektora finansowego i narzędzie do dokumentacji medycznej.

Co zrobić

TrendAI zaleca spis narzędzi AI obejmujący także dostawców spoza głównego nurtu oraz kolejność przeglądów ustaloną według wrażliwości danych, do których narzędzie ma dostęp, i skutków regulacyjnych ewentualnego błędu, a nie według wielkości czy rozpoznawalności dostawcy. Monitoring bezpieczeństwa ma traktować ruch API i integracje zewnętrzne co najmniej tak poważnie jak użycie AI w przeglądarce.