- SynthID Detector je brezplačno orodje podjetja Google, ki prepozna nevidne digitalne vodne žige v večpredstavnostnih datotekah.
- Združljiv je z vsebinami, ki jih ustvarjajo Google in tehnološki partnerji, kot so OpenAI, NVIDIA in Kakao, v prihodnosti pa ga načrtuje tudi Apple.
- Njegovo zaznavanje je odporno na osnovne popravke, čeprav ni univerzalen sistem, saj prepozna le združljive znamke.
Danes je razlikovanje med tem, kaj je resnično, in tem, kar je izdelal stroj, prava muka. Z množično uporabo generativne umetne inteligence je internet preplavil z vsebinami, ki se zdijo pristne, a so zgolj algoritmični izum, zaradi česar iščemo orodja, ki nam pomagajo, da se izognemo vsaki prevari.
Da bi se s tem spopadel, se je Google odločil, da bo širši javnosti odprl svoj detektor SynthID , spletno platformo, zasnovano za odkrivanje nevidnih digitalnih vodnih žigov v večpredstavnostnih datotekah. Kar je bilo nekoč domena novinarjev in strokovnjakov za preverjanje dejstev, je zdaj na voljo vsem, ki želijo vedeti, ali je umetna inteligenca filtrirala virusni videoposnetek ali nenavadno fotografijo.
Kaj točno je SynthID in kako deluje?
Za razliko od standardnih metapodatkov, ki jih lahko izbriše vsak uporabnik z minimalnim tehničnim znanjem, SynthID uporablja tehnologijo, ki jo je razvil Google DeepMind in ki v podatkovno strukturo datoteke vdela nezaznavne signale. To pomeni, da vodni žig ne spremeni vizualne ali zvočne kakovosti vsebine, temveč ostane kot digitalni podpis.
Sistem je precej robusten, saj ti signali običajno prenesejo običajne spremembe, kot so obrezovanje slik, uporaba določenih filtrov ali stiskanje datotek pri deljenju na družbenih omrežjih. Vendar je pomembno razumeti, da se lahko vodni žig poškoduje in postane nezaznaven, če se datoteka podvrže ekstremnim transformacijam ali jo večkrat obdelajo različne umetne inteligence.
Koraki za uporabo detektorja sintetičnih vsebin
Uporaba orodja je preprosta in ne zahteva zapletene namestitve programske opreme, saj deluje neposredno iz brskalnika na spletni strani synthid.com . Postopek je zelo intuitiven: ko je uporabnik tam, se preprosto prijavi in naloži datoteko, ki jo želi analizirati, tako da jo povleče v ustrezno polje ali jo izbere v svoji napravi.
Za dostop do storitve je potreben račun Google, Apple ali ChatGPT . Ko je gradivo naloženo, sistem pregleda datoteko za digitalni podpis in vrne rezultat, ki označuje, ali je bil podpis zaznan ali ne. Pomembno je omeniti, da vmesnik platforme zaenkrat deluje predvsem v angleščini.
Podprte oblike in obseg orodja
Vsestranskost SynthID Detectorja je izjemna, saj se ne omejuje le na slike. V video oddelku lahko obdeluje datoteke v formatih MP4, MOV in WEBM. Ko gre za zvok , je seznam še širši in sprejema WAV, MP3, OGG, FLAC, AAC in M4A. Kar zadeva slike , podpira praktično vse: od klasičnih JPG in PNG do sodobnejših formatov, kot so WebP, AVIF, HEIC, HEIF, TIFF in GIF.
Ključna točka je, da Google pri tem prizadevanju ne želi iti sam in si prizadeva ustvariti industrijski standard. Zato orodje ne zazna le vsebine Gemini, temveč prepozna tudi blagovne znamke OpenAI, NVIDIA in Kakao . Poleg tega je bilo potrjeno, da se bo Apple kmalu pridružil temu ekosistemu preverjanja, kar bo močno razširilo uporabnost detektorja.
Pomembne omejitve, ki jih morate poznati
Tukaj je potrebna previdnost, da se izognemo prenagljenim sklepom. Detektor SynthID ni univerzalni detektor umetne inteligence. To pomeni, da če je bila vsebina ustvarjena z umetno inteligenco, ki ne uporablja tega sistema vodnega žiga, orodje ne bo sporočilo vodnega žiga, vendar to ne pomeni, da je datoteka pristna.
Skratka, negativni rezultat ni dokaz pristnosti, temveč zgolj odsotnost združljivega podpisa . Poleg tega sistem ne podrobno opisuje, katere specifične spremembe so bile narejene v datoteki; potrdi le, ali je prišlo do posredovanja umetne inteligence. V primeru videoposnetkov lahko Gemini natančno določi določene segmente , kjer je bil zaznan podpis, s čimer pojasni, da celoten posnetek ni nujno sintetičen.
Druge strategije za odkrivanje globokih ponaredkov in lažnih vsebin
Ker nobeno orodje ni nezmotljivo, je priporočljivo kombinirati uporabo SynthID-a s kritičnim pogledom. Ena učinkovitih tehnik je iskanje vizualnih artefaktov , kot so neberljivo besedilo, deformirani prsti, sence, ki se ne ujemajo s svetlobo, ali vzorci, ki se zdijo preveč ponavljajoči in umetni.
Zelo uporabno je tudi uporabiti Googlovo obratno iskanje slik za sledenje pravega izvora fotografije. Nazadnje lahko analiza podatkov EXIF izvirne datoteke razkrije uporabljeni model fotoaparata ali uporabljeno programsko opremo za urejanje, kar zagotavlja dodatne namige o legitimnosti gradiva.
Google je to tehnologijo množično integriral in že označil več kot 180.000 milijard slik in videoposnetkov ter količino zvoka, ki je enaka 240.000 letom. Z integracijo teh funkcij v Chrome in Iskanje Google boj proti dezinformacijam in ponaredkom pridobi močnega zaveznika, ki dnevno obdela več kot milijon zahtevkov in pomaga ponovno vzpostaviti določeno stopnjo varnosti v digitalnem okolju.