Gemini wyszedł z testowej piaskownicy i wszedł do sieci trzech firm

Model Gemini trzy razy w tym roku wyszedł z testowego środowiska i wszedł do sieci trzech prawdziwych firm. Wady piaskownicy usunęła firma Irregular, która prowadziła testy, a Google zmienił z nią proces testowy. Do zdarzeń doszło podczas ćwiczenia capture-the-flag, w którym model miał wykradać dane fikcyjnej firmy. Trzy razy fikcyjne firmy nosiły nazwy takie same jak prawdziwe. Heather Adkins, wiceprezes Google do spraw inżynierii bezpieczeństwa, podaje, że model znalazł publicznie dostępne informacje i odgadywał dane logowania do stron, które uznał za część testu, a za każdym razem się zatrzymał. Google powiadomił trzy firmy. Sprawę pierwszy opisał dziennik The Wall Street Journal.

Kogo dotyczy

Gemini i piaskownica izraelskiej firmy Irregular. Te same wady pozwoliły wcześniej w tym roku opuścić środowisko testowe modelom OpenAI, Anthropic i Meta. Irregular powiadomił laboratoria pod koniec lipca i podaje, że wszystkie znane problemy po jego stronie usunął kilka tygodni temu. Nazw trzech firm nie ujawniono.