OpenAI:s vd Sam Altman anser att AI-utvecklingen kan behöva bromsas tillfälligt om tekniken utvecklas snabbare än samhällets förmåga att hantera de risker som följer.
Resonemanget framfördes i podcasten Invest Like the Best med Patrick O’Shaughnessy. Där beskriver Altman hur den senaste säkerhetsincidenten under OpenAI:s interna tester fick honom att fundera över om AI-branschen ibland behöver sakta ned för att ge företag, myndigheter och samhället mer tid att bygga upp tillräckliga skydd.
TechCrunch beskriver uttalandet som ett tydligt skifte från Altmans tidigare fokus på att snabbt driva AI-utvecklingen framåt.
Annons
Vill ge samhället tid att anpassa sig
I intervjun betonar Altman att han inte förespråkar ett permanent stopp för AI-utvecklingen. Däremot menar han att det kan finnas situationer där en tillfällig inbromsning är motiverad om AI-systemens kapacitet ökar snabbare än samhällets beredskap.
Han lyfter fram behovet av att utveckla säkerhetsrutiner, utvärderingsmetoder och skyddsmekanismer i takt med att modellerna blir mer avancerade.
Läs även: OpenAI avslöjar historisk AI-incident under säkerhetstest
Säkerhet måste prioriteras
Altman säger också att AI-företag behöver lägga större fokus på säkerhetstester och oberoende utvärderingar innan allt kraftfullare modeller tas i bruk.
Enligt honom är det viktigt att branschen bygger upp processer som gör det möjligt att identifiera risker tidigt och att utvecklingen sker på ett ansvarsfullt sätt.
Samtidigt betonar han att AI fortfarande har stor potential att bidra positivt inom områden som forskning, sjukvård och utbildning, förutsatt att tekniken utvecklas på ett säkert sätt.
Läs även: Giveaway: Vinn 3 000 kr presentkort på Webhallen
Ny ton från OpenAI-chefen
TechCrunch konstaterar att Altmans uttalanden markerar en mer försiktig ton än tidigare. OpenAI har länge argumenterat för en snabb utveckling av AI, men de senaste månadernas diskussioner om säkerhet och riskhantering tycks ha påverkat hur företagets vd beskriver den fortsatta utvecklingen.
Altman gör samtidigt klart att han inte vill stoppa utvecklingen, utan snarare säkerställa att samhället hinner anpassa sig i takt med att AI blir allt mer kraftfull.
