Nu kan du avslöja AI-innehåll med Googles nya verktyg

Google meddelade den 7 oktober att SynthID Detector blir tillgängligt globalt. Tjänsten har tidigare testats av utvalda journalister och medieorganisationer, men kan nu användas av allmänheten via en särskild webbplats.

Det innebär att vem som helst kan ladda upp bilder, videor och ljudfiler för att kontrollera om de innehåller en digital märkning som avslöjar att AI har använts.

Verktyget finns på synthid.com och är inledningsvis tillgängligt på engelska.

Kan känna igen innehåll från ChatGPT och andra AI-tjänster

En av de större förändringarna är att SynthID Detector inte längre enbart fokuserar på Googles egna AI-modeller.

Tekniken kan även identifiera märkningar från flera andra stora AI-aktörer, däribland OpenAI, Nvidia och Kakao. Apple väntas också ansluta sig.

Det gör att användare kan kontrollera AI-genererat innehåll från flera olika leverantörer på samma plats, i stället för att behöva använda separata verifieringsverktyg.

Enligt Google har SynthID hittills använts för att märka över 180 miljarder bilder och videor. Företaget uppger dessutom att tekniken har använts på ljudinnehåll motsvarande 240 000 år.

Så fungerar Googles osynliga vattenstämpel

Till skillnad från traditionella vattenstämplar syns SynthID inte på bilden eller i videoklippet.

I stället bäddas en digital signal in direkt i innehållet när det skapas med AI.

För bilder handlar det om förändringar i bildinformationen som normalt inte går att uppfatta med blotta ögat. För ljud placeras märkningen i ljudsignalen.

Tekniken är konstruerad för att märkningen ska kunna överleva vanliga förändringar, exempelvis bildbeskärning, komprimering och filter.

När en fil laddas upp till SynthID Detector söker verktyget efter dessa signaler och visar om en märkning har upptäckts.

Men verktyget kan inte avslöja all AI

Trots att Google öppnar tekniken för alla finns en betydande begränsning.

SynthID Detector är inte en universell AI-detektor. Verktyget letar efter specifika digitala vattenstämplar som har lagts till av kompatibla AI-system.

En bild som har skapats med en annan AI-modell kan därför passera kontrollen utan att upptäckas.

Det betyder också att ett negativt resultat inte bevisar att en bild är äkta.

Enligt Ars Technica kräver tjänsten dessutom inloggning och har en daglig användningsgräns på ungefär tio kontroller per användare.

Verktyget kan heller inte nödvändigtvis avgöra om en fil har skapats helt med AI eller om ett befintligt fotografi bara har redigerats med AI.

AI-märkning blir allt vanligare

Google introducerade SynthID redan 2023 och har sedan dess byggt in tekniken i flera av sina AI-produkter.

Bland dessa finns Gemini, bildgeneratorn Nano Banana och videomodellen Veo.

Samtidigt har kontrollfunktioner integrerats i bland annat Google Sök, Chrome och Gemini. Enligt företaget hanterar dessa funktioner nu över en miljon verifieringsförfrågningar dagligen.

Att SynthID Detector öppnas för allmänheten innebär ytterligare ett steg mot att göra AI-genererat innehåll lättare att identifiera.

För användare som stöter på misstänkta bilder eller videoklipp i sociala medier blir det därmed enklare att genomföra en första kontroll.

Men tekniken fungerar bäst som ett komplement till traditionell källkritik. Att en vattenstämpel saknas säger fortfarande väldigt lite om huruvida innehållet är verkligt eller manipulerat.