SynthID Nedir: Yapay Zeka Filigranlama, Nasıl Çalışır ve Nerede Kullanılır?

Informatec Dijital » Yapay Zeka » SynthID Nedir: Yapay Zeka Filigranlama, Nasıl Çalışır ve Nerede Kullanılır?

Üretken yapay zekanın hızlanması, yakın zamana kadar bilim kurgu gibi görünen bir ölçekte metin, görüntü, ses ve video oluşturulmasını hızlandırdı. Buna paralel olarak, yanlış bilgi ve yanlış atıflar, çünkü neyin insan yapımı, neyin modellenmiş olduğunu ayırt etmek giderek zorlaşıyor. İşte tam da bu noktada filigranlama, bir hafifletme tekniği olarak devreye giriyor: Kullanıcı için görünmez bir parmak izi olan filigran, bir doğrulama sisteminin içeriğin yapay zeka tarafından oluşturulup oluşturulmadığını tahmin etmesini sağlıyor.

Google DeepMind, SynthID adı altında bir dizi teknolojiyi tanıttı. filigranları ekleyin ve tespit edin Bunu doğrudan yapay zeka tarafından oluşturulan içeriğin kendisine uygular. Bunu çeşitli biçimlerde (görüntü, ses, metin ve video) gerçekleştirir ve metin söz konusu olduğunda, Hugging Face Transformers gibi kütüphanelerle herhangi bir geliştiricinin akışlarına uygulayabilmesi için açık kaynaklı olarak da yayınlamıştır. Sonuç, algılanabilir kaliteden ödün vermeden daha fazla şeffaflık elde etmeyi amaçlar.

SynthID nedir ve neden önemlidir?

SynthID, Google'ın üretilen veya paylaşılan içeriği fark edilmeyecek şekilde işaretleme önerisidir. AI modelleri tarafından değiştirildi ve sonrasında bir dedektörle tespit edebilmek. Bu fikir yeni değil (zaten meta veriler ve ilgili standartlarla yaşıyoruz), ancak burada bir adım daha ileri gidiyor: marka içeriğin kendisine gömülü —piksellerde, ses dalgalarında veya metindeki belirteç seçimlerinde— böylece yaygın dönüşümler boyunca varlığını sürdürür ve yalnızca kırılgan dış etiketlere güvenmez.

Motivasyon açıktır: Bu tür viral vakalarla Papa'nın kapitone ceketi veya Donald Trump'ın iddia edilen tutuklanması ve giderek daha gerçekçi jeneratörlerle, gördüğümüz şeyin nereden geldiğini bilmek için güvenilir ipuçlarına ihtiyacımız var. Google bunu halihazırda ekosisteminde uyguluyor (örneğin, Gemini ile görüntü oluştururken) ve amacı, bizi daha da yakınlaştırmak için daha fazla aktörün bunu benimsemesi. yaygın olarak paylaşılan standart endüstride.

SynthID'nin Özeti Nasıl Çalışır?

SynthID ailesi birçok yöntemi kapsar. Görüntülere bir parmak izi entegre edilir. doğrudan piksellereİnsan gözüyle algılanamayan ve kırpma, filtre uygulama, sıkıştırma veya format değişikliği gibi sık değişikliklere dayanacak şekilde tasarlanmış bir ses kaydıdır. Ses kaydında marka, sinyale bir şekilde gömülür. duyulmaz ve güçlü Gürültüye, MP3 sıkıştırmasına veya hız değişikliklerine karşı dayanıklıdır. Videoda, kare oluşturma sırasında eklenir ve gürültüye, MPXNUMX sıkıştırmasına veya hız değişikliklerine karşı dayanıklı olacak şekilde tasarlanmıştır. kesmeler, filtreler, yenileme hızı değişiklikleri veya sıkıştırma.

Metin için, SynthID Text, üretim sırasında sinyali tanıtır: kelime seçimi tercihlerini ince bir şekilde modüle eden bir örnekleme süreci kullanır sözde rastgele fonksiyon Filigranı kodlamak için (g-fonksiyonu). Bu değişiklik, okuyucunun stil veya anlamda herhangi bir değişiklik algılamasına gerek kalmadan modelin çıktı dağılımına uygulanır, ancak ilgili doğrulayıcı için istatistiksel olarak tespit edilebilir bir iz korunur.

SynthID Metni: Metin Filigranı Açıklaması

Pratik açıdan, SynthID Text şu şekilde uygulanır: logit işlemci Top-K ve Top-P'den sonra model oluşturma hattına entegre edilen algoritma, logitleri metin boyunca filigran bilgilerini kodlayan sözde rastgele bir fonksiyon g ile zenginleştirir. Amaç: Bir dedektörün daha sonra, kaliteyi önemli ölçüde düşürmeden metnin SynthID ayarlarıyla üretilme olasılığını değerlendirebilmesidir.

Yöntem, " şemasını kullanırturnuva örneklemesi» veya anahtar rehberli turnuva örneklemesi. Kabaca söylemek gerekirse, aday jetonlara, orijinal olasılıklarına göre birbirleriyle yarışan ve her adım için kazananı seçen yarı rastgele puanlar atar. Bu kontrollü rekabet, istatistiksel bir imza oluşturur. Yayınlanan araştırma, Tabiat tekniğin ayrıntılarını veriyor ve parmak izinin, metinde belirgin bir değişiklik yapmadan taklit edilmesinin veya çıkarılmasının zor olduğunu gösteriyor.

Uygulamak için modelinizi yeniden eğitmenize gerek yok: sadece bir kez geçirmeniz yeterli. marka yapılandırması üretim yöntemine (örneğin, model.generate() Transformers'da) SynthID'nin logit işlemcisini etkinleştirmek için. Google ve Hugging Face, o zamandan beri bir üretim dağıtımını kolaylaştırdı Transformers 4.46.0 ve resmi bir test alanı, ayrıca tekniğin katkıda bulunması veya taşınması için kullanışlı bir GitHub referans uygulaması yapay zeka ile uygulamalar yaratın diğer projelere entegre etmek.

Temel parametreler ve güvenli ayarlar

SynthID Metin yapılandırmalarının iki zorunlu parametresi vardır. Bir yandan, anahtarlar: g fonksiyonu aracılığıyla kelime dağarcığını puanlamak için kullanılan benzersiz, rastgele tam sayılardan oluşan bir liste. Bu listenin uzunluğu, kaç "katman" puanlama uygulanacağını tanımlar; pratikte, 20 ila 30 anahtar arasında Teknik kılavuzlarda önerildiği gibi kalite ve tespit edilebilirliği dengelemek için (daha fazla ayrıntı için makalenin Ek C.1'ine bakın).

İkinci temel parametre ise ngram_len, dengelemek için n-gram penceresini belirler sağlamlık ve tespit edilebilirlikDaha yüksek değerler tespiti kolaylaştırma eğilimindedir, ancak işareti düzenlemelere karşı daha savunmasız hale getirir; makul bir referans değeri 5'tir. Gizlilik ve güvenlik nedenleriyle, her filigran ayarının özel ve güvenli bir şekilde saklanırÇünkü eğer sızdırılırsa, üçüncü taraflar bunu daha kolay kopyalayabilir.

Ayrıca, bir kullanarak performansı optimize edebilirsiniz. örnekleme tablosu iki özelliği ile: örnekleme_tablosu_boyutu y örnekleme_tablosu_tohumuÖrnekleme sırasında kararlı ve tarafsız bir g-fonksiyonunun sağlanması için en azından şu büyüklükte bir g-fonksiyonu gereklidir: 2 ^ 16çıkarım sırasında hafıza üzerindeki etkiyi hesaba katarak. tohum Herhangi bir tam sayı olabilir ve algılanabilir kaliteyi etkilemez, ancak diğer sırlarla aynı özenle yönetilmesi gerekir.

Başka bir operasyonel ayrıntı: n-gramların içindeki tekrarlananlar yakın tarihin simgeleri (tarafından kontrol edilen bağlam_tarih_boyutu) genel tespit edilebilirliği artırmak için işaretten çıkarılır. Bu ayarlama, sinyalin daha az bilgilendirici olacağı önemsiz örüntülerin pekiştirilmesini önler.

Algılama ve doğrulama: Bayes dedektörünün rolü

SynthID doğrulaması olasılıksalHugging Face ekosisteminde ve GitHub'da, her içeriği üç duruma sınıflandıran bir Bayes dedektörünüz var: "filigranlı", "filigransız" veya "belirsiz". İki yapılandırılabilir eşik kullanarak, aralarındaki ilişkiyi ayarlayabilirsiniz. yanlış pozitifler ve yanlış negatifler, teknik makalenin C.8 Ek'inde tartışıldığı gibi.

Başka bir operasyonel avantaj daha var: paylaşan modeller belirteçleyici/ayrıştırıcı dedektörün eğitim seti içerdiği sürece aynı marka yapılandırmasını ve aynı dedektörü yeniden kullanabilirsiniz tüm modellerin örnekleri Bu, bir kuruluş veya teknik konsorsiyum içinde ortak bir ayak izinin standartlaştırılmasını kolaylaştırır.

Son olarak karar ver dedektör nasıl açığa çıkarılır Bu, stratejinin bir parçası. Üç tipik seçenek var: tamamen gizli tutmak (hiçbir şeyi ifşa etmeden), herhangi bir ücret ödemeden bir API aracılığıyla yarı özel modda sunmak veya genel indirme ve kullanıma açık hale getirmek. Seçim, altyapı kapasitenize ve güvenlik, şeffaflık ve destek politikalarınıza bağlıdır.

İçerik türüne göre uygulamalar: resim, ses, video ve metin

SynthID, görsellerde görsel kaliteyi düşürmeyen ve hayatta kalmak üzere tasarlanmış, algılanamayan bir parmak izi yerleştirir. düzenli sürümler Kırpma, filtreler veya biçimlendirme değişiklikleri gibi. Bu yaklaşım başlangıçta Image kullanıcıları (Vertex AI'nın metinden resme dönüştürme modeli) ile test edildi ve daha fazla hizmete genişletildi. Ayrıca, çözüm, aşağıdakilere dayalı yöntemleri de destekler: meta daha geleneksel (örneğin Photoshop tipi araçlar kullananlar) olduğundan, her iki yaklaşım da bir arada var olabilir.

Ses alanında, şu modeller gibi: LYRIA Markayı duyulmayacak şekilde entegre edin: Eklenen gürültüye, MP3 sıkıştırmasına veya hız değişikliklerine karşı koyacaktır. Pratik açıdan bu, Notebook LM veya diğer formatlardaki metinlerden oluşturulan podcast'lerin tanımlanmasına yardımcı olur. model tarafından oluşturulan parçalar Kullanıcının işitmesinde herhangi bir fark hissetmesine neden olmaz.

Videoda Google bunu şu şekilde uygular: kendi nesli (örneğin, Veo'da) ayak izinin kırpma, filtreler, kare hızı değişiklikleri veya sıkıştırmadan etkilenmemesini sağlamayı amaçlar. Bu işaret, klibin görünür kalitesini değiştirmez ve makul bir düzenleme sürecinin ötesinde kalıcı olmayı hedefler.

Metinde, gördüğümüz gibi, marka, sembolik kararlar dizisinin içinde gizlidir. Büyük ölçekli iç değerlendirmelerde -ki bu, 20 milyon yanıt Gemini'de etiketlemeyle ve etiketlemesiz - tekniğin bozulmadığı gözlemlendi kalite, hassasiyet, yaratıcılık veya hız Ancak istatistiksel gücü, içeriğin uzunluğuna ve sonrasında ne kadar düzenlendiğine bağlıdır.

Kullanılabilirlik, açık kaynak ve ekosistem

Google, SynthID Text'i topluluğa şu şekilde sundu: açık kaynakTransformers 4.46.0+ sürümünde üretim düzeyinde bir uygulama ve uzay Test için resmi. Ayrıca, tekniği diğer çerçevelere aktarmak veya katkıda bulunmak için kullanışlı bir GitHub referans uygulaması da mevcut. Ürün ekosisteminde filigran zaten şurada görünüyor: İkizler burcu (görüntüler), Magic Editor gibi özellikler ve araçlar gibi GörüntüFXVideoda Veo, SynthID'yi entegre ediyor ve bugün sınırlı erişimle test edilebilir. VideoFX.

Google I/O 2025 sırasında duyuruldu SynthID Dedektörü Genel bir doğrulama portalı olarak: Bir dosya (metin, resim, ses veya video) yüklüyorsunuz ve içeriğin (veya bir kısmının) markayı içerip içermediği size bildiriliyor. Erişim şimdilik sınırlı sayıda kullanıcıyla sınırlı, ancak kademeli olarak herkese açılması planlanıyor. gazeteciler, medya profesyonelleri ve araştırmacılarBu doğrulamanın önemli olabileceği gruplar.

Google ekosisteminin ötesinde, önemli iş birlikleri ve benimsemeler duyuruldu. Örneğin, NVIDIA SynthID'yi entegre etmeyi kabul etti; bu adım, sektördeki daha fazla araca yayılmasını hızlandırabilir. Buna paralel olarak, diğer şirketler de kendi yollarını araştırıyor: Örneğin OpenAI, bir görüntünün nereden geldiğini belirlemek için yardımcı programlar başlattı. DALL · E ve gelişmiş filigranlama teknikleri üzerinde çalışmaktadır. Yaklaşımların birleşmesi veya birlikte çalışabilirlik hayati önem taşıyacaktır.

Pratik uygulama: maliyet, erişim ve nereden başlamalı

Günümüzde SynthID, öncelikle şu şekilde entegre edilmiştir: özel Servisler Google'ın Vertex AI ve Hugging Face ekosistemi gibi platformlarından. Üretim için geniş anlamda "ücretsiz" bir araç olmasa da, açık kaynaklar (Kod, dokümantasyon ve örnekler) deneyip değerlendirebilirsiniz. Transformers ile geliştirme yapıyorsanız, yapılandırmasını SynthID Metnine geçirerek etkinleştirebilirsiniz. generate(); Vertex AI ile çalışıyorsanız (Resim 2/3), işaret çıkışlara uygulanır şeffaf bir şekilde.

Algılayıcıyı test etmek için, I/O'da duyurulan portala ek olarak, uygulamalarınız var Sarılma Yüzü ve GitHubBir kuruluşsanız, doğrulamayı nasıl gerçekleştireceğinizi (özel, API tabanlı veya genel), hangi performans ölçütlerine ihtiyaç duyacağınızı (yanlış pozitif/negatif eşik) ve anahtarları nasıl koruyacaksınız sızdırmayacak şekilde yapılandırılmalıdır.

Standartın durumu ve endüstri tarafından benimsenmesi

SynthID bir evrensel standartHenüz değil. Google bunu ürünlerinde sürekli kullanıyor ve önemli parçalar yayınladı, ancak doğrulamanın yaygınlaşması için diğer oyuncuların da bunu benimsemesi gerekiyor. En iyi ihtimalle, büyük teknoloji şirketleri, donanım üreticileri ve sosyal platformlar arasında anlaşmalar göreceğiz. En kötü ihtimalle ise, uyumsuz çözümlerden oluşan bir karmaşa. Şimdilik, ... açık kaynak ve ittifaklar (NVIDIA gibi) doğru yönde ilerliyor.

Google tarafından paylaşılan verilere göre, 2023 yılından itibaren SynthID markaları Google'a ekleyecek. milyarlarca İçerik (görüntüler, videolar, ses ve metin) açısından zengin bir kaynak. Düzenleyiciler ve kamu kuruluşları, güçlü çözümler için baskı yaparken, bu cilt fiili bir referans haline gelme potansiyeline işaret ediyor. deepfake'ler ve manipülasyon.

Gerçek sınırlamalar ve zorluklar

Hiçbir filigran kusursuz değildir. SynthID Metni kırpılmaya karşı dayanıklıdır, ılımlı eşanlamlılar veya küçük yeniden ifadeler, ancak metin tamamen yeniden yazıldığında veya başka bir dile çevrildiğinde özgüvenleri azalır. Ayrıca, yanıtlar çok gerçekçi (seçim özgürlüğünün sınırlı olduğu yerlerde) doğruluğu etkilemeden sinyal verme olanağı daha azdır ve bu da sinyalin tespit edilmesini zorlaştırır.

Marka, görsellerde, seslerde ve videolarda ortak dönüşümleri iyi destekliyor, ancak aşırı manipülasyonlar sinyali bozabilir. SynthID, son derece motive olmuş bir düşmanın kendi başına hasar vermesini engellemek için tasarlanmamıştır, ancak zorlaştırmak ve her şeyden önce kapsamı genişletmek için diğer parçalarla (moderasyon, kaynak doğrulama, imzalı meta veriler, vb.) birlikte çalışın.

Nüanslar akademiden de gelir. Uzmanlar gibi Süheil Feizi Güvenilir ve algılanamayan bir metin filigranı elde etmenin LLM'lerin doğası gereği karmaşık olduğunu belirtiyorlar; ancak topluluğun test dedektörleri ve sağlamlığını değerlendirin. Diğerleri, örneğin Scott Aaronson, halihazırda kullanılan tekniğin önemini vurgulamaktadır üretimde uygulama, teorinin ötesinde.

Teknik ekipler için hızlı kılavuz

Değerlendirmeyi düşünüyorsanız Transformers 4.46.0+ ile başlayın ve SynthID yapılandırması: tanımlamak anahtarlar 20–30 benzersiz rastgele tam sayı ve ngram_len Başlangıç ​​noktası olarak 5'te. Örnekleme tablosunu ekleyin örnekleme_tablosu_boyutu ≥ 2^16 ve bir tohum tam sayı. İşlemciyi etkinleştirin .generate() ve işaretleme ile veya işaretleme olmadan test korpusları üretir tren/ayarlamak Bayes dedektörü.

Dedektörü kalibre ederken, toleransınıza göre eşik değerleri tanımlayın. yanlış pozitifler ve negatiflerStres durumlarını (çeviriler, yoğun yeniden ifadeler, kısaltmalar) değerlendirin ve doğrulayıcının nasıl davrandığını kontrol edin. Birden fazla model bir belirteç ayırıcıyı paylaşıyorsa, bunları aynı yerde paylaşın. marka şeması ve dedektörü hepsinden örneklerle eğiterek genellemeyi geliştirin.

Dağıtımda, maruz kalma modelini (özel, API veya genel) belirleyin, şifreleyin ve koruyun marka anahtarları ve tespit/gecikme oranlarını izleyin. Hukuk ve ürün ekipleri için sınırları ve varsayımları belgelendirin ve bir işlemin nasıl gerçekleştirileceğini açıklamak için iletişim ekipleriyle koordine olun. "belirsiz" sonuç.

Kullanıcılar ve yaratıcılar üzerindeki etkisi

Son kullanıcı için, bir doğrulama portalı Dosyaları yüklemek ve net bir okuma ("işaretli", "işaretsiz", "belirsiz") elde etmek, şeffaflıkta bir sıçramadır. Gazeteciler ve doğrulama ekipleri için bu, destekleyici ek bir araçtır. gerçek kontrol uygulamaları sentetik içeriklerle dolu bir ortamda.

Sanatçılar ve yaratıcılar için sağlam bir ayak izine sahip olmak, markayı savunmaya yardımcı olur. yazarlık ve menşe eserlerinin ve izleyicileri için uygun olduğunda insanı sentetikten ayırt etmesini sağlar. Platformlar için ise moderasyon maliyetini azaltır ve güvenilir sinyaller sunar. yayıncılık politikaları ve ürünü ortaya çıkan düzenleyici gerekliliklerle uyumlu hale getirir.

SynthID sihirli bir değnek değil, meta veri standartlarıyla bir araya geldiğinde sağlam bir yapı taşıdır. kriptografik imzalar ve net politikalar fark yaratabilir. Artan benimsemeyle ve birlikte çalışabilirlik güçlendirilirse, sektör güvenden ödün vermeden üretken yapay zeka ile birlikte var olmak için daha olgun bir araca sahip olacaktır.

İlgili makale:

GitHub Spark: Nedir ve yapay zeka ile uygulamalar nasıl oluşturulur?