Kontraktorzy OpenAI czytają rozmowy z ChatGPT w ramach Project Lily

Dziennikarze 404 Media ustalili, że OpenAI zatrudnia setki kontraktorów do czytania i oceniania promptów oraz odpowiedzi prawdziwych użytkowników ChatGPT. Program „Project Lily” ma polegać na punktowaniu i krytyce odpowiedzi chatbota, żeby poprawić jego jakość i zachowanie.

OpenAI deklaruje, że dane osobowe usuwa model „Privacy Filter”, zanim prompty trafią do recenzentów. Firma przyznaje jednak, że wrażliwe szczegóły mogą się przez niego przedostać. Recenzenci nie widzą nazwy użytkownika, ale mogą zobaczyć dane osobowe z rozmowy oraz „user memories summary”, czyli podsumowanie tego, jak dana osoba korzystała wcześniej z chatbota. Według OpenAI dostęp do czatów mają też upoważnieni pracownicy i zaufani dostawcy usług, między innymi przy badaniu nadużyć, wsparciu i sprawach prawnych.

Rozmowy nie posłużą do ulepszania modeli po wyłączeniu ustawienia „Improve the model for everyone”. W planach Free, Plus i Pro jest ono domyślnie włączone, więc użytkownik musi je wyłączyć sam. Wyłączenie nie blokuje każdego dostępu ludzi do czatów, więc to, co trafia do ChatGPT, może przeczytać człowiek.