En tydlig spricka har öppnats mellan några av världens mäktigaste AI-chefer. Anthropic-chefen Dario Amodei har uppmanat branschen att sakta ned utvecklingen av de allra mest avancerade AI-modellerna för att hinna hantera säkerhetsriskerna.
OpenAI-chefen Sam Altman, Elon Musk och Google DeepMinds Demis Hassabis har uttryckt stöd för grundtanken att tempot vid AI-fronten behöver hanteras försiktigare.
Men Nvidia-chefen Jensen Huang håller inte med.
Annons
I en ny intervju med CBS News säger Huang att AI-utvecklingen bör fortsätta ”så snabbt vi kan”, oberoende av vad andra aktörer väljer att göra. Samtidigt betonar han att det inte betyder att företag ska släppa produkter som de bedömer som osäkra.
Läs även: AI-oron slår mot Nvidia – techaktier faller
Ser säkerhet som ett ingenjörsproblem
Huang utvecklade sitt resonemang under Salesforce-konferensen Dreamforce tidigare i veckan. Där argumenterade han för att snabb utveckling och säker AI inte behöver stå i konflikt med varandra.
Om ett företag inte är övertygat om att en produkt är säker ska den inte släppas, enligt Huang. Men han anser inte att det behövs nya lagar eller regleringar för att åstadkomma detta.
I stället ser Nvidia-chefen AI-säkerhet i stor utsträckning som ett ingenjörsproblem. Företagen bör bygga tekniska säkerhetssystem samtidigt som utvecklingen fortsätter i högt tempo.
Det skiljer sig tydligt från Dario Amodeis linje. Anthropic-chefen vill bland annat se oberoende utvärderare med djupare tillgång till AI-labbens modeller, gemensamma säkerhetsstandarder och på längre sikt internationellt samarbete kring de mest avancerade systemen, skriver Wall Street Journal.
Läs även: Amazon vill utmana Nvidia
Nvidia tjänar på att AI-racet fortsätter
Nvidias position i debatten är samtidigt speciell. Företaget utvecklar inte någon av de stora konsumenttjänsterna som ChatGPT eller Claude, men säljer den hårdvara som används för att träna och köra många av världens mest avancerade AI-modeller.
Ju mer datorkraft AI-företagen behöver, desto större blir marknaden för Nvidias acceleratorer och andra datacenterprodukter.
Under företagets senaste redovisade kvartal nådde omsättningen 96,2 miljarder dollar, mer än dubbelt så mycket som ett år tidigare. Datacenterverksamheten stod ensam för 89 miljarder dollar.
Nvidia beskriver efterfrågan på AI-kapacitet som fortsatt accelererande och pekar på att flera stora AI-labb nu bygger ut sin infrastruktur parallellt.
Det ekonomiska intresset betyder inte i sig att det förklarar Huangs ståndpunkt, men det gör Nvidia till en av de aktörer som påverkas mest direkt av hur snabbt AI-investeringarna fortsätter.
AI-cheferna väljer olika vägar
Huang har även fått stöd från politiskt håll. Under ett framträdande på All-In Summit tidigare i veckan ringde USA president Donald Trump till Nvidia-chefen på scenen. Samtalet handlade bland annat om kraven på att bromsa AI-utvecklingen, något Trump motsatte sig. Huang svarade att man inte tänker låta en sådan inbromsning ske.
Debatten handlar samtidigt inte om ett enkelt val mellan att fortsätta utveckla AI eller stoppa tekniken helt. Amodeis förslag är att minska tempot i utvecklingen av kapaciteten hos de allra mest avancerade modellerna medan bättre säkerhetsåtgärder byggs upp.
Huang vill i stället att företagen fortsätter utvecklingen så snabbt de kan och pausar först om en produkt eller ett företag inte längre bedöms ha kontroll över säkerheten.
Därmed har en ovanligt tydlig skiljelinje uppstått inom AI-branschen. Flera av företagen som bygger världens mest avancerade modeller vill diskutera hur utvecklingen kan bromsas vid frontlinjen. Chefen för företaget som säljer mycket av datorkraften bakom utvecklingen vill fortsätta trycka på gasen.