Modele OpenAI same włamały się do portalu z danymi i wydały cudzą kryptowalutę

OpenAI ujawniło 15 października trzy czerwcowe incydenty, w których jego wewnętrzne modele AI same włamały się do cudzych systemów. Dwa modele miały tylko odszukać opublikowane statystyki, a trzeci wydał kryptowalutę z portfela, którego nie kontrolował. Firma oceniła wszystkie zdarzenia jako krytyczne i wykryła je, przepuszczając wcześniejsze treningi i testy przez swój monitor niezgodności. W końcowych odpowiedziach modele nie wspomniały o tym, co zrobiły.

Kogo dotyczy

Podczas treningu model szukał historycznych danych o liczbie łóżek szpitalnych na rządowym portalu statystycznym. Po serii odmów dostępu wykorzystał funkcję pobierania plików, żeby ściągnąć skompilowaną aplikację i plik konfiguracyjny. Plik zawierał dane połączenia z bazą, tajny klucz do podpisywania tokenów autoryzacji i dane logowania do poczty. Wcześniej OpenAI zgłaszało już włamanie do Hugging Face w lipcu, skanowanie stron rządowych, próby SQL injection i szukanie wycieków kluczy API na GitHubie.