YouTube börjar automatiskt märka videor som skapats eller manipulerats med AI. Det gäller framför allt innehåll som ser fotorealistiskt ut och skulle kunna misstas för äkta material, säger bolaget i ett inlägg.
Tidigare har plattformen främst förlitat sig på att kreatörer själva markerar när AI används. Nu tar bolaget ett betydligt större ansvar för att identifiera materialet på egen hand.
För användarna innebär det att AI-genererade videor kommer bli betydligt enklare att upptäcka både i vanliga videor och i Shorts-flödet.
YouTube går från självrapportering till automatisk kontroll
Den största förändringen är att YouTube nu bygger upp ett system som analyserar videor automatiskt i stället för att enbart lita på kreatörernas egna uppgifter.
Bolaget säger att interna signaler ska användas för att upptäcka “betydande fotorealistisk AI”. Exakt hur systemen fungerar är inte offentligt, men det handlar sannolikt om en kombination av metadata, bildanalys och identifiering av AI-genererade mönster.
Det här kommer kort efter att Google presenterade sina nya multimodala AI-modeller under Google I/O. De nya modellerna kan skapa videor med betydligt mer realistisk fysik, rörelser och mänskliga uttryck än tidigare generationer.
YouTube säger samtidigt att märkningen inte ska påverka rekommendationer eller möjligheten att tjäna pengar på videor. Det är en viktig detalj för kreatörer som använder AI som verktyg i produktionen.
Vissa etiketter går inte att ta bort
En annan viktig förändring är att vissa AI-märkningar blir permanenta.
Om en video innehåller så kallad C2PA-metadata som visar att innehållet är helt AI-genererat kommer etiketten ligga kvar permanent. Standarden används redan av flera stora AI-bolag för att göra AI-innehåll spårbart.
Bland företagen som anslutit sig finns OpenAI, Nvidia och ElevenLabs.
YouTube gör också märkningarna betydligt mer synliga än tidigare. För vanliga videor visas etiketten nu direkt under spelaren ovanför beskrivningen. I Shorts läggs märkningen ovanpå själva videon.
Tidigare kunde AI-information gömmas längre ner i beskrivningen om videon inte handlade om känsliga ämnen som politik, hälsa eller nyheter.
Deepfakes driver utvecklingen
Bakgrunden är den explosionsartade utvecklingen inom AI-video och deepfakes.
Det har blivit betydligt enklare att skapa videor där människor ser ut att säga eller göra saker som aldrig hänt. Samtidigt blir tekniken svårare att upptäcka med blotta ögat.
YouTube har redan börjat testa verktyg där personer kan söka efter deepfake-klipp med sina egna ansikten. Funktionen har tidigare testats med kändisar, politiker och stora kreatörer men öppnas nu bredare.
Samtidigt fortsätter plattformen att investera tungt i generativ AI. Bland annat arbetar bolaget med AI-sökfunktioner, automatiska videosammanfattningar och nya verktyg för att skapa innehåll direkt inne i YouTube.
För YouTube handlar förändringen inte bara om transparens. Det är också ett sätt att försöka behålla förtroendet för plattformen när gränsen mellan verkligt och AI-genererat innehåll snabbt håller på att suddas ut.