Anthropic varnar: AI kan snart kopiera sig själv mellan smarta prylar

AI-bolaget Anthropic har testat hur långt dagens modeller har kommit när det gäller så kallad autonom replikering, alltså förmågan att hitta nya datorer, installera sig där och fortsätta sprida sig utan mänsklig hjälp.

Resultaten pekar enligt företaget på att små AI-modeller snart kan vara tillräckligt kapabla för att sprida sig via vanliga uppkopplade prylar som smarta ugnar, Android-tv-boxar och andra IoT-enheter.

I testerna klarade modeller med färre än 30 miljarder parametrar redan många av momenten var för sig. Problemet är fortfarande att få hela kedjan att fungera från början till slut utan misstag.

Läs även: USA stoppar Anthropics AI-modeller

AI-modellen kan bli en del av själva skadeprogrammet

Anthropic jämför scenariot med en dator­mask, alltså skadlig kod som kan kopiera sig från en dator till nästa.

Skillnaden är att en AI-baserad variant skulle kunna anpassa sig till nya typer av hårdvara på egen hand. Modellen kan exempelvis behöva lista ut vilket operativsystem en pryl använder, installera rätt programvara och få sin egen AI-motor att starta på den nya enheten.

I ett av Anthropics tester lyckades en modell med 9 miljarder parametrar få AI-inferens att fungera på åtta av nio typer av hårdvara som den utsattes för.

Företaget visade dessutom att en större modell med 26 miljarder parametrar kunde köras utspridd över 15 billiga Android-tv-boxar. Varje box kostade omkring 55 dollar.

Det är viktigt eftersom det visar att en framtida AI-mask inte nödvändigtvis skulle behöva dyra grafikkort eller datacenter för att fungera.

De bästa modellerna klarar redan förenklade tester

Anthropic testade även hela replikationskedjan.

Dagens mindre modeller gjorde fortfarande för många fel för att klara alla steg på egen hand i realistiska scenarier. Men när vissa säkerhetsmoment förenklades klarade modeller som GLM-5.2 och starkare system hela processen från början till slut.

Anthropic bedömer att mindre modeller, om utvecklingstakten fortsätter ungefär som tidigare, kan nå samma nivå före slutet av 2026.

Det innebär inte att en AI-mask automatiskt kommer att dyka upp då. Det är i stället en uppskattning av när modellerna kan bli tekniskt kapabla nog att genomföra den typen av autonom replikering, rapporterar Reuters.

Läs även: OpenAI utmanar Meta med AI-assistenten Dots

Svårare att stänga av än dagens AI-tjänster

Ett av problemen med den typen av system är att det inte finns någon central server att stänga ned.

En AI-modell som körs på tusentals komprometterade prylar kan i teorin fortsätta fungera även om många av enheterna kopplas bort. Anthropic uppskattar samtidigt att spridningen sannolikt skulle vara ganska långsam, med en möjlig fördubblingstid på flera dagar.

Vanliga IoT-prylar är särskilt intressanta eftersom de ofta har sämre säkerhet än datorer och servrar. Smarta kylskåp, robotdammsugare, gräsklippare, övervakningskameror och videokonferenssystem kan dessutom ha tillräckligt mycket beräkningskraft för att köra delar av mindre AI-modeller.

Anthropic understryker därför att säkerheten i sådana system behöver stärkas innan AI-modeller blir ännu bättre på att automatiskt hitta och utnyttja svagheter.

Det är fortfarande ett hypotetiskt hot.

Men företagets tester visar att gränsen mellan ett traditionellt självspridande skadeprogram och ett AI-system som själv kan förstå hur det ska ta sig vidare till nästa maskin börjar bli allt mindre tydlig.