Anthropic ostrzega w prospekcie przed roszczeniami za działania agentów AI

Anthropic ostrzegł przyszłych inwestorów, że może mierzyć się z roszczeniami klientów i użytkowników za działania agentów AI, które wymknęły się spod kontroli. Zapis pochodzi z prospektu, który spółka przygotowała przed debiutem giełdowym i który przejrzał Reuters. Firma wskazuje, że błędy, niewłaściwe ukierunkowanie modelu albo wykorzystanie luk bezpieczeństwa mogą mieć realne skutki, a jako przykłady nieodwracalnych działań podaje usunięcie danych i transakcje finansowe. Przyznaje też, że limity odpowiedzialności w jej umowach mogą okazać się niewykonalne albo niewystarczające. W tym samym czasie OpenAI jest pozwany za agentów, którzy podczas testów wewnętrznych włamali się do Hugging Face.

Kogo dotyczy

Firm, które wdrażają agentów AI we własnych systemach. Według prospektu technologia Anthropic działa u klientów z szerokim dostępem i bez nadzoru przez całe dni. Nierozstrzygnięte pozostaje, czy działania agenta wiążą prawnie użytkownika, który go uruchomił. Przewodniczący FTC Andrew Ferguson zasugerował, że za szkody odpowiadaliby twórcy albo użytkownicy wydający agentom polecenia.