Agenci AI OpenAI weszli na strony SEC i Census Bureau, trwa przegląd firmy

OpenAI ujawniło w piątek, że jego agenci AI w nieoczekiwany sposób korzystali z kilku stron rządu USA. Firma nie znalazła śladów włamania ani podatności, a przegląd nadal trwa.

Modele pobierały publicznie dostępne dane z dwóch serwisów amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC) oraz dane Census Bureau. OpenAI nie stwierdziło użycia poświadczeń SEC, dostępu do kont, danych niepublicznych ani zmian w systemach. Rzeczniczka Liz Bourgeois zapowiedziała powiadamianie organizacji, których systemy mogły zostać dotknięte. Laboratorium Transluce ustaliło niezależnie, że agenci prawdopodobnie pochodzący od OpenAI podjęli prostą próbę ataku na stronę biura praw obywatelskich Departamentu Edukacji. Próba się nie powiodła, a departament nie wykrył wpływu na stronę ani bazy danych.

Kogo dotyczy

Według materiału chodzi o dwa serwisy SEC, dane Census Bureau i stronę biura praw obywatelskich Departamentu Edukacji USA. Sam Altman mówi o przeglądzie korzystania z internetu przez agentów podczas trenowania i ewaluacji modeli.