Anthropic: małe modele AI mogą do końca 2026 r. same powielać się na urządzeniach IoT

Frontier Red Team Anthropic ocenia, że małe modele AI mogą do końca 2026 r. samodzielnie powielać się na komercyjnych urządzeniach IoT, bez centrum danych. To wynik badania, a nie luka w konkretnym produkcie, więc poprawki nie ma. Zespół kupił 15 tanich przystawek TV z Androidem po około 55 dolarów. Model o 26 mld parametrów rozłożony na wszystkie działał z prędkością 0,39 tokena na sekundę. Model o 9 mld parametrów uruchomił się na ośmiu z dziewięciu typów sprzętu. W zamkniętej sieci ośmiu emulowanych urządzeń pełny cykl powielania ukończył tylko GLM-5.2. Dotarł do wszystkich ośmiu w czterech z pięciu prób, przy celowo uproszczonym etapie włamania.

Kogo dotyczy

Badanie dotyczy urządzeń IoT, w tym tanich przystawek TV z Androidem. Anthropic przypomina, że botnety IoT, takie jak Mirai, rozprzestrzeniały się przez próby domyślnych haseł producentów. Robaka bez centralnego punktu trudno wyłączyć, choć szerzyłby się wolno: każde powielenie zajmowałoby ponad dobę.