Det är ovanligt att OpenAI, Anthropic, Google DeepMind och Microsoft AI gemensamt går ut med en varning. Men nu uppmanar flera av branschens mest inflytelserika aktörer amerikanska politiker att agera mot vad de ser som en växande risk: att AI kan göra biologiska vapen enklare att utveckla.
Enligt Wired har bolagen skickat ett gemensamt brev till amerikanska lagstiftare där de efterfrågar nya regler kring syntetiskt DNA och biologisk forskning.
Bakgrunden är den snabba utvecklingen inom syntetisk biologi. Tekniken används redan för att utveckla läkemedel, vacciner och nya behandlingar, men samma verktyg kan i teorin användas för att skapa farliga patogener.
Fokus ligger på DNA-industrin
Det mest intressanta i utspelat är kanske inte själva varningen, utan vilken lösning AI-bolagen föreslår.
I stället för att kräva hårdare regler för AI-modellerna vill de att företag som producerar syntetiskt DNA ska bli skyldiga att kontrollera både kunder och beställningar. Tanken är att misstänkta DNA-sekvenser ska kunna stoppas innan de tillverkas.
Som Wired beskriver det ser branschen problemet som en kombination av kraftfull AI, billigare bioteknik och allt mer automatiserade laboratorier.
Flera företag använder redan frivilliga säkerhetskontroller, men AI-bolagen menar att det behövs lagkrav när tekniken blir billigare och mer tillgänglig.
Riskerna handlar om framtidens AI
Varningen kommer samtidigt som flera AI-företag själva satsar stort på biologisk forskning.
OpenAI har exempelvis presenterat Rosalind Biodefense, ett initiativ som använder AI för att identifiera och förebygga biologiska hot.
Syftet är att stärka beredskapen mot framtida pandemier och biologiska attacker. Samtidigt illustrerar projektet en av AI-utvecklingens största utmaningar: samma teknik som hjälper forskare kan potentiellt också missbrukas.
Flera forskningsorganisationer har de senaste åren varnat för att AI riskerar att sänka kunskapströsklarna inom avancerad biologi.
Center for Strategic and International Studies pekar exempelvis på att framtida AI-system kan göra det enklare att hitta biologisk information som tidigare krävt specialistkompetens.
Ovanligt samarbete mellan konkurrenter
OpenAI och Anthropic har under senare år ofta hamnat på olika sidor i debatter om AI-reglering, säkerhet och kommersialisering. Därför väcker det uppmärksamhet att bolagen nu står bakom samma initiativ.
Budskapet är tydligt: de största framtida AI-riskerna kanske inte handlar om vad modellerna skriver på skärmen, utan om vad människor kan göra med kunskapen de får tillgång till.