Instagram börjar nu begränsa spridningen för konton som använder AI-genererade personer men inte berättar att personen är skapad med artificiell intelligens. Förändringen riktar sig framför allt mot virtuella influencers och andra profiler som kan misstas för att tillhöra verkliga människor.
Samtidigt byter Instagram namn på sin tidigare etikett ”AI creator” till det betydligt tydligare ”AI-generated profile”. Etiketten ska visa att personen som profilen kretsar kring är helt eller till stor del skapad med AI.
Instagram skriver att förändringen bygger på tester som företaget genomfört tidigare under året. Enligt plattformen har användare reagerat negativt på att först tro att de följer en riktig person och senare upptäcka att personen inte existerar.
Annons
Omarkerade AI-profiler kan försvinna från Explore
Det nya är inte bara namnet på etiketten. Instagram börjar även koppla räckvidden till om profilen är korrekt märkt.
Om plattformen bedömer att en profil föreställer en AI-genererad person men kontot saknar märkningen kan innehållet sluta rekommenderas till personer som inte redan följer kontot. Det gäller bland annat exponering i Reels och Explore, enligt Instagram.
Det innebär i praktiken en kraftig begränsning för den som försöker bygga en AI-influencer genom Instagrams rekommendationssystem. För många sådana konton kommer en stor del av tillväxten just från algoritmiska rekommendationer snarare än befintliga följare.
Konton som själva aktiverar märkningen ska däremot inte få sämre räckvidd enbart för att personen är AI-genererad. Den som felaktigt blir klassad som en AI-profil ska också kunna överklaga beslutet.
Instagram försöker skilja AI-verktyg från AI-människor
Gränsdragningen är viktig. Instagram kräver inte att alla som använder generativ AI ska märka hela sin profil.
En verklig fotograf som använder AI för bildredigering, en kreatör som tar hjälp med texter eller någon som genererar grafik behöver alltså inte automatiskt aktivera etiketten ”AI-generated profile”.
Regeln riktar sig i stället mot konton där själva personen som publiken följer är syntetisk.
Det gör Instagrams nya policy betydligt smalare än ett generellt försök att rensa bort AI-innehåll. Plattformen accepterar fortfarande AI som produktionsverktyg, men vill göra det tydligare när den mänskliga identiteten framför kameran också är genererad.
TechCrunch beskriver samma gränsdragning och konstaterar att etiketten gäller profiler med AI-genererade personer, inte vanlig användning av AI för exempelvis bildredigering, grafik eller textarbete.
AI-influencers har blivit betydligt svårare att avslöja
Virtuella influencers är inget nytt fenomen. Skillnaden är hur enkelt det blivit att skapa stora mängder trovärdiga bilder och videor av samma påhittade person.
Tidigare krävdes ofta avancerad 3D-produktion och omfattande efterbearbetning för att driva en digital karaktär. Med dagens bild- och videogeneratorer kan betydligt mindre aktörer skapa personer som återkommer i nya miljöer, kläder och situationer med relativt hög visuell konsekvens.
Det har även gjort gränsen mellan en traditionell influencer och en AI-genererad persona betydligt svårare att se direkt i flödet.
The Verge pekar på den utvecklingen som en central anledning till Instagrams förändring. Plattformens gamla ”AI creator”-märkning säger heller inte särskilt tydligt om personen använder AI eller faktiskt själv är AI-genererad.
Märkningen löser inte Instagrams AI-problem
Förändringen innebär däremot inte att Instagram börjar stoppa eller filtrera bort allt AI-genererat material.
Ett konto kan fortfarande publicera stora mängder AI-bilder och AI-video utan att omfattas av den nya profilregeln, så länge kontot inte bygger på en AI-genererad person som framställs som profilens huvudfigur.
Det betyder också att den som är trött på generiskt AI-innehåll i Instagram-flödet inte får någon ny möjlighet att stänga av sådant material.
Instagram tar i stället sikte på en mer specifik fråga: om en profil ser ut att representera en människa ska användaren kunna förstå när den människan egentligen är syntetisk.
Det är en relativt liten förändring av Instagrams enorma rekommendationssystem, men för AI-influencers är konsekvensen betydligt större. Att dölja hur profilen skapats kan nu direkt påverka möjligheten att nå en ny publik.