AINyhet

Anthropic varnar för AI-risker – nu bygger de ett biologilabb

Publicerad
dnasträngar i ett mikroskop
Bild: Depositphoto

Anthropic har i tysthet byggt ett biologiskt laboratorium där AI kan kopplas till riktiga experiment. Det flyttar Claude ett steg närmare en värld där AI inte bara föreslår forskning, utan kan hjälpa till att genomföra den.

Anthropic har byggt ett eget biologiskt laboratorium i San Francisco Bay Area. Där ska företaget kunna gå från analyser och simuleringar i datorn till att faktiskt testa biologiska hypoteser genom fysiska experiment.

Eric Kauderer-Abrams, chef för life sciences på Anthropic, bekräftar laboratoriet för Reuters. Enligt honom bedrivs en del av arbetet i företagets egna lokaler medan andra experiment genomförs tillsammans med externa partners. Anthropic har inte gått ut med exakt vilka experiment som pågår och uppger att laboratoriet inte specifikt är byggt för läkemedelsutveckling.

Det är ett betydligt större steg än att låta Claude läsa forskningsrapporter eller analysera genetiska data. För att AI på allvar ska kunna bidra till biologisk forskning måste idéerna förr eller senare testas på riktiga celler, proteiner och andra biologiska system.

Annons

Claude kan kopplas direkt till laboratoriets maskiner

Det är här Anthropics tidigare satsningar blir särskilt intressanta.

I augusti presenterade företaget Model Hardware Standard, MHS, en specifikation som ska göra det möjligt för AI-agenter att kommunicera med fysisk laboratorieutrustning. Systemet har stöd för bland annat mikroskop, vätskehanteringsrobotar och robotarmar.

Anthropic beskriver hur en AI-agent kan koordinera flera instrument samtidigt, justera parametrar under ett pågående experiment och i vissa fall själv försöka återhämta sig efter fel i utrustningen. Tekniken utvecklades ursprungligen tillsammans med HHMI Janelia Research Campus.

Det innebär att kombinationen av Anthropics nya biologilabb och MHS åtminstone tekniskt pekar mot något betydligt mer avancerat än en AI-assistent för forskare.

I stället kan samma typ av modeller som idag skriver kod eller analyserar dokument bli en del av en fysisk kedja där AI analyserar ett resultat, bestämmer nästa steg och instruerar laboratorieutrustningen att genomföra det.

Det är i praktiken ett första steg mot mer autonoma laboratorier.

Läs mer: AI-jättarnas varning: Biovapen är nästa stora hot

Biologi får samtidigt färre spärrar

Anthropic öppnar dessutom sina kraftfullaste modeller för fler biologiska användningsområden.

Den 17 september presenterade företaget Life Sciences Verification Program. Verifierade forskare och organisationer får där tillgång till Mythos, Opus och Sonnet med andra säkerhetsbegränsningar än vanliga Claude-användare.

Det innebär bland annat att modellerna kan användas för arbetsuppgifter inom läkemedelsutveckling, biologisk forskning, klinisk utveckling och tillverkning som annars kan blockeras i de vanliga modellerna. Anthropic uppger att ett tiotal organisationer redan använt programmet under en tidigare testperiod.

Anledningen är ganska enkel. Samma säkerhetssystem som ska hindra en vanlig användare från att få avancerad biologisk hjälp riskerar samtidigt att göra modellerna betydligt mindre användbara för forskare som faktiskt behöver informationen.

Anthropics lösning blir därför inte att öppna funktionerna för alla, utan att försöka kontrollera vem som får tillgång.

AI optimerar redan biologiska modeller

Claude används också allt mer direkt i forskning.

Anthropic publicerade nyligen resultat där Claude Science fick arbeta med fler än 30 öppna modeller som används för att förutsäga och designa biomolekyler. Enligt företaget lyckades Claude göra systemen omkring fyra gånger snabbare i genomsnitt under knappt fyra veckors arbete.

AI tog även fram ett minnessnålt läge som enligt Anthropic gör det möjligt att analysera betydligt större biomolekylära system på en enskild Nvidia GPU-nod. Företaget har släppt den optimerade koden öppet och startat en tävling där tusentals AI-designade proteiner ska kunna testas i riktiga laboratorier.

AI kan läsa forskning, skriva och optimera kod, designa biologiska strukturer och kommunicera med laboratorieutrustning. Ett eget biologilabb gör det möjligt att även koppla på den sista delen: fysisk verifiering.

Samma område som Anthropic varnar för

Satsningen kommer samtidigt som Anthropic tillhör de AI-företag som tydligast varnat för riskerna när avancerade modeller får bättre kunskaper inom biologi.

Det gör laboratoriet till en ovanlig balansgång. Mer kapabla AI-system skulle kunna göra forskning snabbare och hjälpa forskare att angripa sjukdomar som idag är svåra att behandla. Samma biologiska kompetens kan också missbrukas.

Anthropic, OpenAI och flera andra AI-företag har därför tidigare efterlyst starkare skydd kring bland annat syntetiskt DNA och avancerad biologisk forskning.

Det nya laboratoriet betyder inte att Claude på egen hand står och odlar celler eller genomför helt autonoma biologiska experiment. Anthropic beskriver fortfarande människor som en central del av processen.

Men riktningen är tydlig. AI-systemen håller på att lämna den rent digitala miljön.

När modeller som Claude kan kombinera vetenskapligt resonemang med robotiserade laboratorier blir frågan inte längre bara hur bra AI är på att förstå forskning. Nästa fråga blir hur mycket av själva forskningsprocessen den kan utföra.