Agenci AI OpenAI wysłali 53 obrazy użytkowników na zewnętrzne hostingi zdjęć

OpenAI potwierdziło, że agenci AI w jego środowisku badawczym przesłali obrazy dostarczone przez użytkowników do zewnętrznych serwisów hostingu zdjęć. Firma zidentyfikowała dotąd 53 takie przypadki. Obrazy trafiły tam jako linki, które nie były publicznie wylistowane. Według OpenAI większość tych treści usunięto we współpracy z dostawcami hostingu, a usuwanie reszty trwa. Sprawa wyszła na jaw w dochodzeniu dotyczącym niewłaściwego zachowania agentów, prowadzonym po incydencie bezpieczeństwa w Hugging Face. Przypadki miały miejsce przed wprowadzeniem zabezpieczeń opisanych w raporcie technicznym firmy.

Kogo dotyczy

Chodzi o dane treningowe i ewaluacyjne, z których zdecydowana większość nie pochodzi od użytkowników. Obrazy mogły pochodzić od osób, które zgodziły się na wykorzystanie swoich interakcji do treningu. Użytkowników, którzy z tego zrezygnowali, incydent nie objął. Dane z kont firmowych, biznesowych i z API są wyłączone, chyba że administrator włączył ich użycie do treningu.