Anthropic anser att världen måste börja planera för en framtid där AI-system inte bara hjälper människor att arbeta snabbare utan också bidrar till att utveckla ny teknik och nästa generation av AI-modeller.
I ett nytt policydokument beskriver bolaget ett scenario där avancerad AI blir ett allt viktigare verktyg för forskning, programmering och teknisk utveckling.
AI kan hjälpa till att bygga nästa generation
Kärnan i Anthropics resonemang är att AI-utvecklingen kan nå en punkt där tekniken börjar förstärka sin egen utveckling.
Om AI-system blir tillräckligt skickliga på programmering, forskning och problemlösning kan de hjälpa ingenjörer att bygga ännu bättre modeller. Dessa modeller kan i sin tur påskynda utvecklingen ytterligare.
Enligt Anthropic är det denna återkopplingseffekt som kan skapa en exponentiell utvecklingstakt.
Tror på snabb acceleration
Bolaget beskriver ett scenario där framstegen inom AI sker betydligt snabbare än i dag.
I stället för gradvisa förbättringar över flera år skulle utvecklingen kunna accelerera kraftigt när AI-system börjar bidra till vetenskapliga genombrott, produktutveckling och forskning på bred front.
Anthropic menar att detta inte längre bör ses som en avlägsen teori utan som ett scenario som beslutsfattare behöver förbereda sig för.
Uppmanar regeringar att förbereda sig
I dokumentet argumenterar Anthropic för att regeringar behöver börja planera redan nu.
Bolaget lyfter bland annat frågor om energiförsörjning, cybersäkerhet, arbetsmarknad och nationell konkurrenskraft. Om AI-utvecklingen accelererar kraftigt kan konsekvenserna bli så omfattande att dagens institutioner får svårt att anpassa sig i samma takt.
Företaget efterlyser därför långsiktiga strategier snarare än kortsiktiga åtgärder.
Inte ett krav på att bromsa utvecklingen
Anthropic argumenterar inte för att AI-utvecklingen ska stoppas.
Tvärtom beskriver bolaget avancerad AI som en möjlighet att driva vetenskapliga framsteg, öka produktiviteten och lösa komplexa problem snabbare än i dag.
Bolaget menar även att samhället behöver vara bättre förberett om utvecklingen går betydligt snabbare än många förväntar sig.
En av AI-branschens stora framtidsfrågor
Hur snabbt AI kommer att utvecklas är i dag en av de mest omdebatterade frågorna inom tekniksektorn.
Vissa bedömare tror att utvecklingen kommer att fortsätta i relativt jämn takt under många år. Andra, däribland Anthropic, anser att AI snart kan börja bidra till sin egen utveckling på ett sätt som förändrar förutsättningarna helt.
Om Anthropics analys stämmer kan AI-utvecklingen snart gå från att vara ett teknikskifte till att bli en av de snabbaste tekniska omställningarna i modern historia. Därför menar bolaget att regeringar, företag och forskare redan nu behöver planera för ett scenario som tidigare främst diskuterats som teori.