Meta testade ett nytt AI-flöde som automatiskt skapade artiklar, rubriker och bilder. Efter kritik har funktionen dragits tillbaka, men experimentet visar samtidigt vart internet kan vara på väg. Meta har länge kritiserats för att sociala medier fylls av klickbeten. Nu visar det sig att bolaget testat att skapa egna nyhetsartiklar, helt skapat av AI.
I ett test i Metas fristående AI-app genererades hela artiklar, rubriker och bilder automatiskt. När kritiken började växa valde bolaget att dra tillbaka funktionen.
Enligt The Verge presenterades innehållet i ett personligt nyhetsflöde där användare kunde klicka på olika ämnen. Därefter skapade AI:n en komplett artikel tillsammans med en AI-genererad bild.
AI skapade hela innehållet själv
Det som gör experimentet ovanligt är att AI:n inte bara hjälpte till att skriva text. Systemet skapade rubriken, skrev artikeln och genererade bilderna som skulle illustrera innehållet. Resultatet blev ett slags automatiserad nyhetsproduktion där ingen människa behövde vara inblandad efter att processen startat.
Flera av artiklarna fokuserade på lättsmälta ämnen med tydliga klickvänliga vinklar. Enligt The Verge innehöll materialet dessutom felaktigheter och saknade ofta tydliga källhänvisningar.
Det väcker frågor om hur AI-genererat innehåll kan påverka informationsflöden när allt fler teknikföretag försöker fylla sina plattformar med automatiskt producerat material.
Bilderna avslöjade problemen
Bland exemplen som uppmärksammades fanns artiklar om det brittiska kungahuset där AI-genererade bilder innehöll märkliga fel.
Vissa personer förekom i flera versioner i samma bild medan andra detaljer såg uppenbart manipulerade ut. Problemen illustrerar en av de största svagheterna hos dagens generativa AI-modeller.
Trots att tekniken blivit betydligt bättre under de senaste två åren har modellerna fortfarande svårt att hantera komplexa visuella sammanhang och faktakontroll samtidigt.
Det är också därför många AI-företag fortfarande beskriver tekniken som ett hjälpmedel snarare än en fullständig ersättare för mänsklig granskning.
Ett större problem än bara felaktiga artiklar
Den mest intressanta frågan handlar egentligen inte om de enskilda misstagen. Meta verkar i stället ha testat hur långt automatiserad innehållsproduktion kan drivas. Om AI både kan skapa innehåll och algoritmerna redan avgör vad användarna ser uppstår ett system där samma teknik producerar och distribuerar information.
Det är ett betydligt större steg än dagens AI-verktyg som främst används för att hjälpa människor att skriva, redigera eller söka information.
Samtidigt varnar allt fler forskare och branschexperter för fenomenet som ofta kallas “AI slop” – stora mängder AI-genererat innehåll med begränsat informationsvärde.
The Verge har tidigare rapporterat att användare i allt högre grad efterfrågar möjligheter att filtrera bort AI-genererat innehåll från sina flöden snarare än att få mer av det.
Meta backar – men utvecklingen fortsätter
Meta har nu meddelat att testet ska tas bort, men det är svårt att se det som slutet på utvecklingen. Tvärtom investerar de största teknikbolagen miljarder i AI-system som ska kunna skapa text, bilder, video och ljud snabbare än människor.
Det gör Metas experiment intressant även om det misslyckades. Frågan är inte längre om AI kommer att skapa innehåll på internet.
Frågan är hur stor del av det vi läser, ser och delar som i framtiden kommer att vara producerat av AI utan att vi tänker på det.