Utvecklingen av artificiell intelligens går nu snabbare än både forskningen och världens regeringar hinner anpassa sig. Det konstaterar FN:s oberoende vetenskapliga AI-panel i sin första globala rapport, där forskarna varnar för att dagens skyddsåtgärder inte längre håller jämna steg med tekniken.
Rapporten presenterades inför FN:s första globala dialog om AI-styrning i Genève och har tagits fram av 40 oberoende forskare och experter från hela världen. Panelen arbetar fristående från regeringar, företag och andra organisationer, vilket gör rapporten till den första internationella vetenskapliga bedömningen av AI:s möjligheter och risker.
Forskarna ser ett växande problem
Rapporten slår fast att AI har potential att förbättra allt från sjukvård och forskning till utbildning och klimatarbete. Samtidigt pekar forskarna på ett växande problem: tekniken utvecklas snabbare än vetenskapen hinner förstå den.
Det gör att lagstiftare och myndigheter får allt svårare att fatta beslut om hur AI ska regleras. Enligt panelen saknas fortfarande tillräcklig kunskap om hur de mest avancerade AI-modellerna fungerar och hur de bör utvärderas innan de används i stor skala.
Varnar för cyberattacker och vilseledande AI
Rapporten lyfter flera riskområden där AI kan få stora konsekvenser om utvecklingen fortsätter utan tillräckliga skydd.
Bland annat pekar forskarna på mer avancerade cyberattacker, desinformation, biologiska hot och AI-system som kan uppvisa vilseledande beteenden eller fatta egna beslut på sätt som är svåra att förutse.
Panelens ordförande, AI-forskaren Yoshua Bengio, säger enligt Reuters att dagens forskning inte kan garantera att framtidens AI-system inte orsakar katastrofala skador om utvecklingen fortsätter i samma takt.
FN vill se gemensamma spelregler
I samband med rapporten uppmanade FN:s generalsekreterare António Guterres världens regeringar att samarbeta kring gemensamma regler för AI.
Han varnade för att tekniken utvecklas snabbare än någon kan hålla jämna steg med och lyfte särskilt behovet av skydd för barn. Guterres betonade också att AI-riskerna inte bara handlar om säkerhet, utan även om att makten över tekniken riskerar att koncentreras till ett fåtal länder och teknikföretag.
Den aktuella rapporten är en första del av panelens arbete. En mer omfattande vetenskaplig AI-rapport väntas publiceras under nästa år och ska fungera som ett underlag för framtida internationella beslut om hur artificiell intelligens ska utvecklas och regleras.
