TikTok har inlett ett test av ett nytt system som ska göra det svårare att skapa och sprida AI-genererade kopior av plattformens kreatörer.
Den nya funktionen bygger på att kreatörer frivilligt verifierar sin identitet genom en selfie och en ID-handling. Informationen används sedan för att hjälpa TikToks system att upptäcka när någon försöker skapa eller sprida AI-genererat innehåll som efterliknar deras ansikte.
Enligt The Verge är syftet att ge kreatörer ett bättre skydd mot identitetsmissbruk i takt med att generativ AI blir allt mer avancerad.
Annons
Ska upptäcka otillåtna AI-kopior
Det nya systemet fokuserar på så kallade AI likenesses, alltså AI-genererade versioner av verkliga människor.
Om systemet identifierar innehåll som försöker imitera en registrerad kreatör kan videon granskas eller tas bort om den bryter mot TikToks regler. Exakt hur identifieringen fungerar tekniskt har bolaget inte offentliggjort.
TikTok uppger att den insamlade identitetsinformationen inte används för annonsering och att ID-handlingen inte sparas efter verifieringen. Ansiktsinformationen används enbart för att upptäcka otillåtna AI-kopior.
Läs även: Nya regler kan göra Meta och TikTok ännu starkare
Ett svar på den snabba AI-utvecklingen
Utvecklingen av generativ AI har gjort det betydligt enklare att skapa realistiska kopior av verkliga människor.
Det har lett till att flera stora teknikplattformar utvecklar nya verktyg för att skydda användare mot identitetskapning, bedrägerier och vilseledande innehåll. TikToks test är ett av de senaste exemplen på hur sociala medier försöker anpassa sina säkerhetssystem till den snabba AI-utvecklingen.
Enligt The Verge är funktionen än så länge begränsad till ett mindre antal kreatörer i USA, och TikTok har inte meddelat när eller om den kommer att rullas ut globalt.
Läs även: Giveaway: Vinn 3 000 kr presentkort på Webhallen
Verifieringen är frivillig
Det är upp till kreatörerna själva om de vill ansluta sig till programmet.
TikTok samarbetar med identitetsföretaget Jumio för verifieringen och betonar att deltagandet är frivilligt. Bolaget hoppas att tekniken ska göra det svårare att missbruka välkända kreatörers identiteter samtidigt som legitima AI-verktyg fortfarande ska kunna användas inom plattformens regler.
Hur effektivt systemet blir i praktiken återstår att se när testet utvärderas.
