OpenAI uppger att utvecklingen av AI-modellen Astra medvetet bromsades efter att interna säkerhetsbedömningar identifierat risker som behövde analyseras närmare innan arbetet kunde fortsätta.
Beskedet kommer samtidigt som konkurrensen inom AI blir allt hårdare och företag pressas att lansera nya modeller i snabb takt. OpenAI säger däremot att säkerheten i vissa fall måste gå före utvecklingstakten. Det rapporterar TechCrunch.
Annons
Astra ska ge AI bättre förståelse
Astra är ett av OpenAI:s forskningsprojekt och utvecklas för att ge AI-modeller en mer avancerad förståelse av världen omkring dem. Målet är AI-system som kan tolka text, bilder, video och andra intryck i realtid och hjälpa användare i mer komplexa situationer.
Ju mer kapabla modellerna blir, desto större blir också kraven på att de fungerar på ett säkert och kontrollerat sätt.
Säkerhet före snabb lansering
Enligt OpenAI själva, valde företaget att avsätta mer tid för att utvärdera modellens säkerhet innan utvecklingen gick vidare.
Företaget har inte beskrivit exakt vilka risker som identifierades, men uppger att beslutet är en del av arbetet med att utveckla allt kraftfullare AI-system på ett ansvarsfullt sätt. OpenAI har de senaste åren infört flera interna processer där avancerade modeller genomgår omfattande tester innan de släpps till användare.
AI-bolagen granskas allt hårdare
Frågor om AI-säkerhet har blivit en allt viktigare del av utvecklingen inom branschen.
Samtidigt som företag tävlar om att lansera kraftfullare modeller ökar också kraven från myndigheter, forskare och lagstiftare på att tekniken ska testas ordentligt innan den når allmänheten.
Beskedet om Astra visar att säkerhetsgranskningar inte bara påverkar hur modeller används – de kan också påverka hur snabbt de utvecklas.
Del av en större trend
OpenAI är inte ensamt om att lägga större vikt vid AI-säkerhet. Flera av de största AI-företagen har de senaste åren byggt upp särskilda team som granskar modeller innan de lanseras och testar hur de kan missbrukas eller ge oväntade resultat.
I takt med att AI-system blir mer avancerade väntas sådana säkerhetsgranskningar bli en allt viktigare del av utvecklingsprocessen.
