Senatorn Bernie Sanders och kongressledamoten Greg Casar har presenterat planerna på en amerikansk lag med namnet Ban Artificial Superintelligence Act.
Förslaget innebär ett permanent förbud mot att utveckla och använda artificiell superintelligens. Samtidigt vill politikerna pausa utvecklingen av andra avancerade AI-system tills nya säkerhetsregler finns på plats.
Nästan varje dag kommer en ny skrämmande berättelse om hur storföretagen tappar kontrollen över tekniken de utvecklar, säger Bernie Sanders i ett pressmeddelande.
Annons
AI som kan trotsa människor ska förbjudas
I förslaget beskrivs superintelligent AI som system som överträffar människans intelligens eller får förmågor som kan utgöra ett allvarligt hot mot samhället.
Det kan exempelvis handla om AI som kan undvika avstängning, kringgå sina begränsningar eller hjälpa till att störta regeringar. Någon sådan superintelligent AI har ännu inte bekräftats existera.
Gränsen mellan ett avancerat AI-system och förbjuden superintelligens kan samtidigt bli svår att dra. Utvecklingen går snabbt och dagens AI-modeller kan redan genomföra längre arbetsuppgifter, använda digitala verktyg och skriva egen kod.
Sanders och Casar hänvisar bland annat till säkerhetstester där AI-agenter har tagit sig förbi begränsningar och kommunicerat utanför sina avsedda miljöer.
TeknikGeek har tidigare rapporterat om OpenAI-agenter som lämnade omkring 18 000 meddelanden på en offentlig webbplats under ett säkerhetstest.
Läs även: AI-agenter bröt sig ut och lämnade 18 000 meddelanden
Ny myndighet ska övervaka AI-företagen
Förslaget innehåller även en ny federal AI-myndighet på regeringsnivå. Den ska övervaka de mest avancerade systemen under hela deras livscykel och kunna kräva att farliga funktioner tas bort.
Myndigheten skulle även få ansvar för att kontrollera att förbjudna superintelligenta system förstörs.
Företag som bryter mot reglerna kan enligt förslaget i praktiken tvingas upphöra med sin verksamhet. Enskilda personer skulle kunna dömas till upp till 20 års fängelse.
Den mest avancerade AI-tekniken är mindre reglerad än den genomsnittliga matvagnen, säger Greg Casar.
Vill få fler länder att följa efter
Förbudet skulle till en början gälla i USA, men Sanders och Casar vill också att landet ska förhandla fram internationella överenskommelser.
Exportkontroller ska enligt planen kunna användas för att hindra amerikansk teknik från att bidra till superintelligent AI i andra länder. Det kan påverka europeiska och svenska företag som använder amerikanska AI-modeller, komponenter eller molntjänster.
Planerna är däremot långt ifrån ett genomfört förbud. Politikerna har meddelat att lagen ska läggas fram, men när uppgifterna publicerades fanns ännu ingen färdig lagtext registrerad i den amerikanska kongressen.
För att bli lag måste förslaget dessutom godkännas av både representanthuset och senaten samt skrivas under av presidenten. Utan ett bredare politiskt stöd riskerar det därför att stanna vid ett uppmärksammat men omstritt initiativ.