- SynthID setter inn umerkelige vannmerker i tekst, bilder, lyd og video for å muliggjøre senere deteksjon.
- I teksten er den integrert som en logit-prosessor (g-funksjon), med konfigurerbare nøkler, n-grammer og samplingstabell.
- Verifisering er sannsynlighetsbasert med en bayesiansk detektor og tre tilstander: markert, umerket eller usikker.
- Det er ikke en universell standard ennå; det finnes åpen kildekode i Transformers 4.46.0+, en oppdagelsesportal og økende bruk.
Akselerasjonen av generativ AI har drevet produksjonen av tekst, bilder, lyd og video til en skala som inntil nylig virket som science fiction. Parallelt har risikoen for feilinformasjon og feilattribusjon økt , fordi det blir stadig vanskeligere å skille hva som er menneskeskapt innhold fra hva som kommer fra en modell. Det er her vannmerking kommer inn i bildet som en avbøtende teknikk: et usynlig fingeravtrykk for brukeren som lar et verifiseringssystem avgjøre om innholdet ble generert av AI.
Google DeepMind har avduket en familie av teknologier kalt SynthID, som lar brukere sette inn og oppdage vannmerker direkte i AI-generert innhold. Den fungerer på tvers av flere formater (bilder, lyd, tekst og video), og når det gjelder tekst, er den også utgitt som åpen kildekode, slik at enhver utvikler kan implementere den i arbeidsflytene sine ved hjelp av biblioteker som Hugging Face Transformers. Resultatet tar sikte på større åpenhet uten å ofre merkbar kvalitet.
Hva er SynthID, og hvorfor er det viktig?
SynthID er Googles forslag om å umerkelig merke innhold produsert eller endret av AI-modeller , slik at det kan identifiseres med en detektor. Ideen er ikke ny (vi bruker allerede metadata og relaterte standarder), men dette tar det et skritt videre: merket er innebygd i selve innholdet – i piksler, lydbølger eller tokenvalg i tekst – slik at det vedvarer gjennom vanlige transformasjoner og ikke utelukkende er avhengig av skjøre eksterne tagger.
Motivasjonen er klar: med virale tilfeller som pavens vatterte frakk eller den påståtte arrestasjonen av Donald Trump, og med stadig mer realistiske bildegeneratorer, trenger vi pålitelige ledetråder for å vite hvor det vi ser kommer fra. Google bruker allerede dette i sitt økosystem (for eksempel når de genererer bilder med Gemini), og målet er at flere aktører skal ta det i bruk for å bringe oss nærmere en bredt delt bransjestandard.
Hvordan SynthID fungerer i et nøtteskall
SynthID-familien dekker flere bruksområder. I bilder er et digitalt fingeravtrykk integrert direkte i pikslene , umerkelig for det menneskelige øyet og designet for å tåle hyppige endringer som beskjæring, bruk av filtre, komprimering eller endring av formatet. I lyd er merket innebygd i signalet på en uhørbar måte og er robust mot støy, MP3-komprimering eller endringer i hastighet. I video legges det til under oppretting av bilderammer og er designet for å være motstandsdyktig mot kutt, filtre, variasjoner i oppdateringsfrekvens eller komprimering.
For tekst introduserer SynthID Text signalet under generering: den bruker en samplingsprosess som subtilt modulerer ordvalgspreferanser med en pseudo-tilfeldig funksjon (g-funksjon) for å kode vannmerket. Denne modifikasjonen brukes på modellens utdatafordeling uten at leseren oppfatter noen endringer i stil eller betydning, men den opprettholder et spor som er statistisk detekterbart av den tilsvarende verifikatoren.
SynthID-tekst: Tekstvannmerket forklart
I praksis implementeres SynthID Text som en logit-prosessor som er integrert i modellgenereringsprosessen etter Top-K og Top-P. Algoritmen utvider logittene med en pseudo-tilfeldig funksjon g som koder vannmerkeinformasjon gjennom hele teksten. Målet: å la en detektor senere vurdere sannsynligheten for at teksten ble produsert ved hjelp av SynthID-konfigurasjonen, uten at det går vesentlig ut over kvaliteten.
Metoden bruker et nøkkelstyrt turneringsutvalgssystem . I hovedsak tildeler den pseudotilfeldige poengsummer til kandidatbrikker, som konkurrerer mot hverandre med respekt for deres opprinnelige sannsynligheter, og velger vinneren for hvert trinn. Denne kontrollerte konkurransen introduserer en statistisk signatur. Forskningen publisert i Nature beskriver teknikken i detalj og viser at signaturen er vanskelig å forfalske eller fjerne uten å endre teksten vesentlig.
Du trenger ikke å trene modellen på nytt for å bruke den: bare send den én gang. merkekonfigurasjon til genereringsmetoden (for eksempel, model.generate() i Transformers) for å aktivere SynthIDs logitekprosessor. Google og Hugging Face har tilrettelagt en produksjonsdistribusjon siden Transformers 4.46.0 og et offisielt testområde, pluss en referanseimplementering på GitHub som er nyttig for å bidra med eller portere teknikken og lage applikasjoner med kunstig intelligens å integrere det i andre prosjekter.
Viktige parametere og sikre innstillinger
SynthID-tekstkonfigurasjoner har to obligatoriske parametere. Den første er ` nøkler` : en liste med tilfeldige, unike heltall som brukes til å score vokabularet ved hjelp av `g`-funksjonen. Lengden på denne listen definerer hvor mange "lag" med markering som brukes; i praksis anbefales det å bruke mellom 20 og 30 nøkler for å balansere kvalitet og detekterbarhet, som foreslått i de tekniske retningslinjene (se tillegg C.1 i artikkelen for mer informasjon).
Den andre viktige parameteren er ngram_len , som bestemmer n-gram-vinduet for å balansere robusthet og detekterbarhet . Høyere verdier gjør generelt deteksjonen enklere, men gjør vannmerket mer sårbart for redigeringer; en rimelig referanseverdi er 5. Av hensyn til personvern og sikkerhet er det avgjørende at hver vannmerkekonfigurasjon lagres privat og sikkert , fordi hvis den lekker, kan tredjeparter lettere kopiere den.
Videre kan du optimalisere ytelsen ved å bruke en samplingstabell med to egenskaper: `sampling_table_size` og `sampling_table_seed` . For å sikre en stabil og objektiv g-funksjon ved sampling, anbefales en størrelse på minst 2^16 , med tanke på minnepåvirkningen under inferens. Frøet kan være et hvilket som helst heltall og påvirker ikke den merkbare kvaliteten, men det bør håndteres med samme forsiktighet som de andre hemmelighetene.
En annen operasjonell detalj: gjentatte n-grammer innenfor nylige historikktokener (kontrollert av context_history_size ) er ekskludert fra flagget for å forbedre den generelle deteksjonsevnen. Denne justeringen unngår å forsterke trivielle mønstre der signalet ville være mindre informativt.
Deteksjon og verifisering: rollen til den bayesianske detektoren
SynthID-verifisering er sannsynlighetsbasert . Innenfor Hugging Face-økosystemet og på GitHub har du en Bayesiansk detektor som klassifiserer hvert innholdsstykke i tre tilstander: «vannmerket», «ikke vannmerket» eller «usikker». Ved å bruke to konfigurerbare terskler kan du justere forholdet mellom falske positive og falske negative resultater , som omtalt i tillegg C.8 i den tekniske artikkelen.
Det finnes en annen driftsmessig fordel: modeller som deler en tokenizer/analysator kan gjenbruke samme merkekonfigurasjon og detektor, forutsatt at detektorens treningssett inneholder eksempler på alle modeller som deler det merket. Dette gjør det enklere å standardisere et felles fingeravtrykk innenfor en organisasjon eller et teknisk konsortium.
Til slutt er det en del av strategien å bestemme hvordan detektoren skal eksponeres . Det finnes tre typiske alternativer: å holde den helt privat (uten å eksponere noe), tilby den i semi-privat modus via API uten å frigjøre noen ressurser, eller gjøre den offentlig for nedlasting og generell bruk. Valget avhenger av infrastrukturkapasiteten din og dine retningslinjer for sikkerhet, åpenhet og støtte.
Applikasjoner etter innholdstype: bilder, lyd, video og tekst
I bilder legger SynthID inn et umerkelig fingeravtrykk som ikke forringer den visuelle kvaliteten, og som er designet for å tåle vanlige redigeringer som beskjæring, filtre eller formatendringer. Denne tilnærmingen ble opprinnelig testet med brukere av Image (Vertex AIs tekst-til-bilde-modell) og har siden blitt rullet ut til flere tjenester. Videre er løsningen kompatibel med mer tradisjonelle metadatabaserte metoder (som de som brukes av verktøy som Photoshop), slik at begge tilnærmingene kan sameksistere.
Innen lyd integrerer modeller som Lyria den uhørbare merkevaren: den vil motstå ekstra støy, MP3-komprimering eller endringer i hastighet. På et praktisk nivå hjelper dette med å identifisere podkaster laget fra tekst i Notebook LM eller andre spor generert av modeller uten at brukeren merker noen forskjell i lytteopplevelsen.
I video bruker Google dette vannmerket under den første opptaksprosessen (for eksempel i Veo), slik at vannmerket ikke påvirkes av beskjæring, filtre, endringer i bildefrekvens eller komprimering. Vannmerket endrer ikke den tilsynelatende kvaliteten på klippet og er ment å beholdes etter en rimelig redigeringsperiode.
I teksten, som vi har sett, er merkevaren skjult i sekvensen av token-beslutninger. Storskala interne evalueringer – over 20 millioner svar, både merkede og ikke-merkede, i Gemini – har vist at teknikken ikke forringer kvaliteten , nøyaktigheten, kreativiteten eller genereringshastigheten . Dens statistiske styrke avhenger imidlertid av lengden på svaret og hvor mye innholdet senere redigeres.
Tilgjengelighet, åpen kildekode og økosystem
Google har gjort SynthID Text tilgjengelig for fellesskapet som åpen kildekode , med en implementering på produksjonsnivå i Transformers 4.46.0+ og et offisielt testområde . I tillegg finnes det en referanseimplementering på GitHub, som er nyttig for å bidra til eller portere teknikken til andre rammeverk. Innenfor produktets økosystem vises vannmerket allerede i Gemini (bilder), funksjoner som Magic Editor og verktøy som ImageFX . For video integrerer Veo SynthID og er for øyeblikket tilgjengelig for prøveversjon med begrenset tilgang i VideoFX.
Under Google I/O 2025 ble SynthID Detector annonsert som en offentlig verifiseringsportal: du laster opp en fil (tekst, bilde, lyd eller video), og den forteller deg om innholdet – eller deler av det – inneholder merkevaren. Foreløpig er tilgangen begrenset til en liten liste over brukere, men intensjonen er å gradvis åpne den for journalister, mediefolk og forskere – grupper som denne verifiseringen kan være avgjørende for.
Utover Googles økosystem har det blitt annonsert betydelige samarbeid og implementeringer. For eksempel har NVIDIA gått med på å innlemme SynthID, et skritt som kan akselerere integreringen i flere bransjeverktøy. I mellomtiden utforsker andre selskaper sine egne veier: OpenAI har for eksempel lansert verktøy for å identifisere om et bilde stammer fra DALL·E og jobber med avanserte vannmerketeknikker. Konvergens av tilnærminger – eller interoperabilitet – vil være avgjørende.
Praktisk implementering: kostnad, tilgang og hvor man skal begynne
I dag er SynthID hovedsakelig integrert i premium-tjenester fra Google som Vertex AI og i Hugging Face-økosystemet. Det er ikke et «gratis» verktøy i vid forstand for produksjon, selv om det finnes åpne ressurser (kode, dokumentasjon og eksempler) for å eksperimentere med og evaluere. Hvis du utvikler med Transformers, kan du aktivere SynthID Text ved å sende konfigurasjonen til generate(); hvis du jobber med Vertex AI (bilde 2/3), den merket er påført utgangene gjennomsiktig.
For å teste detektoren, i tillegg til portalen som ble annonsert på I/O, har du implementeringer på Hugging Face og GitHub . Hvis du er en organisasjon, bør du planlegge hvordan du vil eksponere verifiseringen (privat, via API eller offentlig), hvilke ytelsesmålinger du trenger (falsk positiv/negativ terskel), og hvordan du vil beskytte konfigurasjonsnøklene mot lekkasjer.
Status for standarden og bransjeadopsjon
Er SynthID en universell standard ? Ikke ennå. Google bruker den konsekvent i produktene sine og har gitt ut viktige komponenter, men de trenger at andre aktører tar den i bruk for at verifisering skal bli allestedsnærværende. I beste fall vil vi se avtaler mellom store teknologiselskaper, maskinvareprodusenter og sosiale medieplattformer. I verste fall et lappeteppe av inkompatible løsninger. Foreløpig beveger åpen kildekode- bevegelsen og partnerskap (som det med NVIDIA) seg i riktig retning.
Ifølge data delt av Google har SynthID lagt til vannmerker på milliarder av innholdselementer (bilder, videoer, lyd og tekst) siden 2023. Dette antyder potensialet til å bli en de facto-standard, mens regulatorer og offentlige organisasjoner presser på for robuste løsninger mot deepfakes og manipulasjon.
Reelle begrensninger og utfordringer
Ingen vannmerker er idiotsikkert. SynthID Text tåler utdrag, moderate synonymer eller mindre omformuleringer, men påliteligheten synker hvis teksten skrives om fullstendig eller oversettes til et annet språk. I tillegg er det i svært faktabaserte svar (der valgfriheten er begrenset) mindre rom for å introdusere et signal uten å påvirke nøyaktigheten, noe som gjør det vanskeligere å oppdage.
I bilder, lyd og video tåler merkevaren standard transformasjoner godt, men ekstrem manipulasjon kan svekke signalet. SynthID er ikke ment å forhindre en svært motivert motstander fra å forårsake skade på egenhånd, men snarere å gjøre det vanskeligere og fremfor alt å fungere sammen med andre tiltak (moderering, kildevalidering, signerte metadata osv.) for å utvide dekningen.
Også fra akademia kommer nyanser. Eksperter som Soheil Feizi påpeker at det å oppnå et pålitelig og umerkelig tekstvannmerke er komplekst på grunn av LLM-enes natur. Likevel setter de pris på at miljøet kan teste detektorer og evaluere robustheten deres. Andre, som Scott Aaronson , understreker viktigheten av at teknikken allerede brukes i produksjon , utover teorien.
Hurtigguide for tekniske team
Hvis du skal evaluere det, start med Transformers 4.46.0+ og SynthID-konfigurasjon: definere nøkler med 20–30 unike tilfeldige heltall og ngram_len i 5 som et utgangspunkt. Legg til en utvalgstabell med størrelse_på_prøvetakelsestabellen ≥ 2^16 og en seed heltall. Aktiver prosessoren i .generate() og genererer testkorpus med og uten vurdering for trene/justere den bayesianske detektoren.
Når du kalibrerer detektoren, definer terskler basert på toleransen din for falske positive og negative resultater . Evaluer stressscenarioer (oversettelser, mye parafrasering, avkorting) og sjekk hvordan verifikatoren yter. Hvis flere modeller deler en tokenizer, del dem innenfor samme merkevarebyggingsskjema og tren detektoren med eksempler fra alle for å forbedre generaliseringen.
Under utrullingen, bestem eksponeringsmodellen (privat, API eller offentlig), krypter og beskytt merkevarenøkler , og overvåk deteksjons-/forsinkelsesrater. Dokumenter grenser og antagelser for juridiske og produktteam, og koordiner med kommunikasjon for å forklare hvordan et "usikkert" resultat skal tolkes.
Innvirkning på brukere og skapere
For sluttbrukeren er det et sprang fremover innen åpenhet å ha en verifiseringsportal for å laste opp filer og få en klar avlesning ("merket", "umerket", "usikker"). For journalister og verifiseringsteam er det et ekstra verktøy for å støtte faktasjekkingspraksis i et miljø mettet med syntetisk innhold.
For kunstnere og skapere bidrar et robust digitalt fotavtrykk til å forsvare forfatterskapet og opprinnelsen til arbeidet deres, og skille det menneskelige fra det syntetiske når det er relevant for publikummet deres. Og for plattformer reduserer det modereringskostnader, gir pålitelige signaler for publiseringspolicyer og tilpasser produktet til nye regulatoriske krav.
SynthID er ikke en magisk løsning, men det er et solid fundament som, kombinert med metadatastandarder, kryptografiske signaturer og klare retningslinjer, kan utgjøre hele forskjellen. Med økende bruk – og hvis interoperabilitet etableres – vil bransjen ha et mer modent verktøy for å jobbe med generativ AI uten å ofre tillit.
