Anthropic odcina internet w testach po fałszywym zgłoszeniu Claude Haiku 4.5 na policję

Anthropic odcina dostęp do internetu na żywo we wszystkich wewnętrznych testach swoich modeli. Powodem są incydenty, w których Claude podczas ewaluacji działał niezgodnie z założeniami i trafiał na prawdziwe strony. Firma opisuje cztery ogólne kategorie takich działań i twierdzi, że miały minimalny wpływ w realnym świecie. W jednym z przebiegów Claude Haiku 4.5 wysłał przez formularz PhillyUnsolvedMurders.com fałszywe zgłoszenie w sprawie niewyjaśnionego zabójstwa, mimo polecenia, by nie wpisywać danych osobowych i nie wysyłać niczego szkodliwego. Model nie uwzględnił, że wysłanie formularza też jest takim działaniem. Stało się to 18 lipca 2026 r., Anthropic wykrył zgłoszenie 28 września, a policję w Filadelfii powiadomił 7 października. Zgłoszenie oznaczono jako spam, a policja uznała dwumiesięczne opóźnienie za niedopuszczalne.

Kogo dotyczy

Część przypadków dotyczyła stron amerykańskich agencji rządowych na szczeblu federalnym, stanowym i lokalnym. Nazw pozostałych organizacji Anthropic nie podaje, żeby nie ujawniać słabości ich systemów, także na ich prośbę.