- SynthID Detector je bezplatný nástroj od společnosti Google, který identifikuje neviditelné digitální vodoznaky v multimediálních souborech.
- Je kompatibilní s obsahem vytvořeným společností Google a technologickými partnery, jako jsou OpenAI, NVIDIA a Kakao, a v budoucnu s tím plánuje i společnost Apple.
- Jeho detekce je odolná vůči základním úpravám, i když se nejedná o univerzální systém, protože rozpoznává pouze kompatibilní značky.
Dnes je rozlišování mezi tím, co je skutečné, a tím, co vyrobil stroj, skutečným problémem. S masivním nasazením generativní umělé inteligence je internet zaplaven obsahem, který se zdá být autentický, ale je to čistý algoritmický výmysl, což nás nutí hledat nástroje, které nám pomohou vyhnout se polykání každého podvodu.
Aby se s tím Google vypořádal, rozhodl se zpřístupnit široké veřejnosti svůj detektor SynthID , webovou platformu určenou k detekci neviditelných digitálních vodoznaků v multimediálních souborech. Co bylo dříve doménou novinářů a odborníků na ověřování faktů, je nyní k dispozici každému, kdo chce vědět, zda dané virální video nebo kuriózní fotografie nebyly filtrovány umělou inteligencí.
Co přesně je SynthID a jak funguje?
Na rozdíl od standardních metadat, která může smazat každý uživatel s minimálními technickými znalostmi, SynthID používá technologii vyvinutou společností Google DeepMind , která vkládá nepostřehnutelné signály přímo do datové struktury souboru. To znamená, že vodoznak nemění vizuální ani zvukovou kvalitu obsahu, ale zůstává zachován jako digitální podpis.
Systém je poměrně robustní, protože tyto signály obvykle odolávají běžným úpravám , jako je ořezávání obrázků, použití určitých filtrů nebo komprese souborů při sdílení na sociálních sítích. Je však důležité si uvědomit, že pokud soubor prochází extrémními transformacemi nebo je opakovaně zpracováván různými umělými inteligencemi, vodoznak by mohl být poškozen a stát se nedetekovatelným.
Postup použití detektoru syntetického obsahu
Používání nástroje je hračka a nevyžaduje žádnou složitou instalaci softwaru, protože funguje přímo z vašeho prohlížeče na adrese synthid.com . Proces je velmi intuitivní: jakmile se tam uživatel přihlásí a nahraje soubor, který chce analyzovat, buď jeho přetažením do odpovídajícího pole, nebo jeho výběrem ze svého zařízení.
Pro přístup ke službě je vyžadován účet Google, Apple nebo ChatGPT . Jakmile je materiál nahrán, systém prohledá soubor a vyhledá digitální podpis a vrátí výsledek, který indikuje, zda byl podpis detekován. Je důležité poznamenat, že rozhraní platformy prozatím funguje primárně v angličtině.
Podporované formáty a rozsah nástroje
Všestrannost SynthID Detectoru je pozoruhodná, protože se neomezuje pouze na obrázky. Ve videu dokáže zpracovávat soubory ve formátech MP4, MOV a WEBM. Pokud jde o audio , seznam je ještě širší a akceptuje WAV, MP3, OGG, FLAC, AAC a M4A. Pokud jde o obrázky , podporuje prakticky vše: od klasických JPG a PNG až po modernější formáty, jako jsou WebP, AVIF, HEIC, HEIF, TIFF a GIF.
Klíčovým bodem je, že Google v tomto úsilí nechce jít sám a jeho cílem je vytvořit oborový standard. Nástroj proto nejen detekuje obsah Gemini, ale také rozpoznává značky od OpenAI, NVIDIA a Kakao . Dále bylo potvrzeno, že se k tomuto ověřovacímu ekosystému brzy připojí i Apple , což výrazně rozšíří užitečnost detektoru.
Důležitá omezení, o kterých byste měli vědět
Zde je třeba být opatrný, aby se předešlo ukvapeným závěrům. Detektor SynthID není univerzální detektor s využitím umělé inteligence. To znamená, že pokud byl obsah vytvořen pomocí umělé inteligence, která tento systém vodoznaků nepoužívá, nástroj nenahlásí žádný vodoznak, ale to neznamená, že soubor je autentický.
Stručně řečeno, negativní výsledek není důkazem pravosti, ale pouze absencí kompatibilního podpisu . Systém navíc neuvádí, jaké konkrétní změny byly v souboru provedeny; pouze potvrzuje, zda došlo k zásahu umělé inteligence. V případě videí dokáže Gemini přesně určit segmenty , kde byl podpis detekován, a tím objasnit, že celý klip nemusí být nutně syntetický.
Další strategie pro detekci deepfaků a falešného obsahu
Protože žádný nástroj není neomylný, je vhodné kombinovat použití SynthID s kritickým pohledem. Jednou z účinných technik je hledání vizuálních artefaktů , jako je nečitelný text, deformované prsty, stíny, které neodpovídají světlu, nebo vzory, které se zdají být příliš opakující se a umělé.
Je také velmi užitečné použít zpětné vyhledávání obrázků od Googlu k vysledování skutečného původu fotografie. Analýza dat EXIF původního souboru může nakonec odhalit použitý model fotoaparátu nebo použitý editační software, což poskytuje další vodítka o legitimitě materiálu.
Google tuto technologii integroval v masivním měřítku a již zaznamenal více než 180 miliard obrázků a videí a také množství zvuku odpovídající 240 000 letům. Díky integraci těchto funkcí do Chromu a Vyhledávání Google získává boj proti dezinformacím a deepfakes silného spojence, který denně zpracovává více než milion požadavků a pomáhá tak obnovit určitou míru bezpečnosti v digitálním prostředí.