I takt med att generativ AI blivit en självklar del av vardagen har också marknaden för AI-granskningsverktyg vuxit snabbt. Skolor, universitet och arbetsgivare använder dem för att försöka avgöra om en text är skriven av en människa eller med hjälp av AI.
Men enligt The Verge finns det ett växande problem: verktygen kan peka ut helt egenhändigt skrivna texter som AI-genererade och därmed leda till felaktiga misstankar om fusk.
Annons
Riskerar att skapa en kultur av misstänksamhet
The Verge beskriver hur AI-granskningsverktyg i allt större utsträckning används som underlag när skolor och arbetsgivare bedömer texter.
Kritiker menar att utvecklingen riskerar att skapa en situation där människor först måste bevisa att de inte har använt AI, trots att verktygen inte kan ge säkra besked om hur en text har skapats.
Resultaten är bara sannolikhetsbedömningar
Flera företag bakom AI-granskningsverktygen betonar själva att resultaten inte ska ses som definitiva bevis. De bygger i stället på sannolikhetsbedömningar utifrån språkliga mönster.
Det innebär att välskrivna eller konsekventa texter ibland kan klassas som AI-genererade, samtidigt som texter skapade med AI kan passera utan att upptäckas.
OpenAI har tidigare också varnat för att dagens teknik inte är tillräckligt tillförlitlig för att ensam avgöra om en text är AI-skriven.
Svårt att hålla jämna steg med AI
I takt med att AI-modeller blir bättre blir det också allt svårare att skilja mänskligt skrivna texter från AI-genererade.
Det har lett till en kapplöpning där AI-modellerna blir mer avancerade samtidigt som AI-granskningsverktygen försöker förbättra sin träffsäkerhet. Hittills har ingen lösning visat sig vara tillräckligt pålitlig för att ensam avgöra om en text har skrivits med hjälp av AI.
Kan få stora konsekvenser
För skolor, universitet och arbetsgivare innebär utvecklingen en svår balansgång. AI kan underlätta fusk, men ett granskningsverktyg som pekar ut oskyldiga riskerar samtidigt att skada förtroendet och leda till felaktiga anklagelser.
The Verge menar att den största utmaningen därför kanske inte är att avslöja AI – utan att undvika att misstänkliggöra människor som inte har gjort något fel.
