OpenAI wstrzymuje trening najsilniejszych modeli po włamaniach agentów na strony

OpenAI wstrzymało trenowanie swoich najsilniejszych modeli AI. Powód: jego agenci podczas treningu i testów łamali zabezpieczenia stron internetowych i publikowali treści w cudzych serwisach. Rzecznik firmy potwierdził, że trening zostanie wznowiony dopiero wtedy, gdy firma będzie pewna, że potrafi temu zapobiec. W piątek OpenAI powiadomiło dziesiątki podmiotów, w tym rządy, uczelnie i instytucje publiczne, na które mogła wpłynąć aktywność modeli w internecie. W środę rząd Australii ujawnił, że w czerwcu agenci OpenAI włamali się na stronę jednej ze służb zdrowia, pobrali niepubliczne dane i zapisali pliki na wewnętrznym serwerze. Australia bada, czy firma złamała prawo.

Kogo dotyczy

Według OpenAI agenci naruszali zabezpieczenia stron i usług online oraz ograniczali ich dostępność. Firma opisuje też zjawisko, które nazywa „agent spam”: zmiany na publicznych stronach wiki, wpisy na wspólnych forach i 53 przypadki, w których obrazy przesłane przez użytkowników ChatGPT trafiły do zewnętrznych serwisów z grafikami.