SynthID 是什麼：AI 浮水印、工作原理以及用途

資訊科技數位 » 人工智能 » SynthID 是什麼：AI 浮水印、工作原理以及用途

生成式人工智慧的加速發展，使得文字、圖像、音訊和視訊的創作規模達到了前所未有的高度，而這在不久前還只是科幻小說中的情節。同時，假訊息和錯誤歸因的風險也日益增加，因為越來越難區分哪些內容是人類生成的，哪些內容來自模型。水印技術正是在這種情況下發揮作用：它為用戶提供了一個不可見的“指紋”，使驗證系統能夠判斷內容是否由人工智慧產生。

谷歌DeepMind發布了一系列名為SynthID的技術，使用戶能夠直接在AI生成的內容上插入和偵測浮水印。該技術支援多種格式（圖像、音訊、文字和視訊），並且對於文本，它已開源，因此任何開發者都可以使用諸如Hugging Face Transformers之類的庫將其整合到自己的工作流程中。該技術的目標是在不犧牲感知品質的前提下，實現更高的透明度。

SynthID 是什麼？它為什麼重要？

SynthID 是Google提出的方案，旨在對人工智慧模型產生或修改的內容進行不易察覺的標記，以便後續使用偵測器進行識別。這個想法並不新鮮（我們已經在使用元資料和相關標準），但 SynthID 更進一步：標記嵌入到內容本身——像素、音訊波形或文字中的標記選擇——因此即使在常見的轉換過程中也能保持有效，而不再僅僅依賴脆弱的外部標籤。

其動機顯而易見：隨著教皇的絎縫外套或唐納德·特朗普被捕等事件的廣泛傳播，以及圖像生成器日益逼真，我們需要可靠的線索來判斷我們所看到的內容的來源。谷歌已在其生態系統中應用了這項技術（例如，使用 Gemini 生成圖像），其目標是讓更多參與者採用該技術，從而推動業界向廣泛認可的標準靠攏。

SynthID 的工作原理

SynthID系列產品涵蓋多種應用。在影像領域，數位指紋直接整合到像素中，人眼無法察覺，並且能夠承受頻繁的修改，例如裁剪、應用濾鏡、壓縮或格式變更。在音訊領域，該標記以人耳聽不到的方式嵌入訊號中，並且能夠抵抗噪音、MP3壓縮或速度變化的影響。在視訊領域，該標記在幀創建過程中添加，並且能夠抵抗剪輯、濾鏡、刷新率變化或壓縮。

對於文本，SynthID Text 在生成過程中引入訊號：它使用取樣過程，透過偽隨機函數（g 函數）微妙地調節詞語選擇偏好，從而對水印進行編碼。這種修改應用於模型的輸出分佈，讀者不會察覺到任何風格或意義的變化，但它保留了一條統計上可被相應驗證器偵測到的痕跡。

SynthID 文字：文字浮水印解釋

實際上，SynthID Text 實作為一個邏輯處理器，它在 Top-K 和 Top-P 之後整合到模型生成流程中。該演算法使用偽隨機函數 g 來增強邏輯值，該函數將水印資訊編碼到文字中。其目標是：允許偵測器在不顯著降低文字品質的前提下，評估文字使用 SynthID 配置產生的機率。

該方法採用了一種基於密鑰引導的錦標賽抽樣方案。本質上，它為候選標記分配偽隨機分數，這些標記按照各自的初始機率相互競爭，並在每一步中選出獲勝者。這種受控競爭引入了一種統計特徵。發表在《自然》雜誌上的研究詳細介紹了這項技術，並證明如果不顯著改變文本，就很難偽造或移除這種特徵。

您不需要重新訓練模型來應用它：只需傳遞一次即可。 品牌配置 生成方法（例如， model.generate() 在 Transformers 中）來啟動 SynthID 的邏輯處理器。自 2019 年起，Google 和 Hugging Face 就已經促成了生產部署。 變形金剛4.46.0 以及官方測試空間，以及 GitHub 上的參考實現，可用於貢獻或移植該技術， 用人工智慧創造應用 將其整合到其他項目中。

關鍵參數和安全設定

SynthID 文字設定有兩個必填參數。第一個是 ` keys`：一個隨機的唯一整數列表，用於使用 `g` 函數對詞彙表進行評分。此清單的長度定義了應用的標記「層」數；實際上，建議使用20 到 30 個鍵值，以平衡品質和可檢測性，正如技術指南所建議的那樣（更多詳情請參見論文附錄 C.1）。

第二個關鍵參數是ngram_len，它決定了 n-gram 視窗的大小，以平衡穩健性和可偵測性。通常情況下，較高的值更容易被檢測，但也會使水印更容易被竄改；一個合理的參考值為 5。出於隱私和安全考慮，每個浮水印配置都必須私密且安全地存儲，這一點至關重要，因為一旦洩露，第三方就很容易複製它。

此外，您可以使用包含兩個屬性的採樣表來最佳化效能： `sampling_table_size`和`sampling_table_seed`。為了確保採樣時 g 函數的穩定性和無偏性，建議採樣表的大小至少為2^16，同時也要注意推理過程中的記憶體佔用。種子可以是任意整數，不會影響感知質量，但應像管理其他密鑰一樣謹慎使用。

另一個操作細節：為了提高整體偵測率，近期歷史記錄中重複出現的 n-gram（由context_history_size控制）會被排除在偵測範圍之外。這種調整避免強化那些訊號訊息量較小的平庸模式。

檢測與驗證：貝葉斯檢測器的作用

SynthID 驗證是機率性的。在 Hugging Face 生態系統和 GitHub 上，您可以使用貝葉斯偵測器將每個內容分類為三種狀態：「已新增浮水印」、「未新增浮水印」或「不確定」。您可以使用兩個可設定的閾值來調整誤報率/漏報率，具體內容請參閱技術文章附錄 C.8。

此外，還有一個操作優勢：共享分詞器/分析器的模型可以重複使用相同的品牌配置和偵測器，前提是偵測器的訓練集包含所有使用該品牌的模型的範例。這使得在組織或技術聯盟內部標準化通用指紋變得更加容易。

最後，如何公開檢測器也是策略的一部分。通常有三種選擇：完全私有（不公開任何內容）、透過 API 以半私有模式提供但不釋放任何資源，或公開供下載使用。具體選擇取決於您的基礎設施容量以及您的安全、透明度和支援策略。

按內容類型劃分的應用程式：圖像、音訊、視訊和文字

SynthID 在影像中嵌入了一個不易察覺的指紋，不會降低視覺質量，並且能夠承受常見的編輯操作，例如裁剪、濾鏡或格式更改。該方法最初在 Image（Vertex AI 的文本轉圖像模型）的用戶中進行了測試，然後推廣到更多服務。此外，該解決方案與更傳統的基於元資料的方法（例如 Photoshop 等工具使用的方法）相容，從而允許兩種方法共存。

在音訊方面，像Lyria這樣的型號能夠將品牌標誌融入聽覺中：它能夠抵抗額外的噪音、MP3 壓縮或速度變化。從實際應用層面來說，這有助於識別由 Notebook LM 中的文字所建立的播客，或其他型號產生的音訊文件，而使用者不會察覺到任何聆聽體驗上的差異。

在影片製作中，Google會在初始錄製過程中（例如在 Veo 中）添加此浮水印，因此浮水印不會受到裁剪、濾鏡、幀速率變化或壓縮的影響。此浮水印不會改變影片片段的視覺質量，並且旨在經過合理的編輯流程後仍然保留。

如我們所見，在文本中，品牌訊息隱藏在一系列標記決策之中。 Gemini 平台進行的大規模內部評估（超過20 萬份包含品牌和非品牌訊息的回應）表明，該技術不會降低文字生成品質、準確性、創造力或速度。然而，其統計效力取決於回覆的長度以及後續內容的編輯程度。

可用性、開源和生態系統

Google 已將 SynthID Text 作為開源技術提供給社區，並在 Transformers 4.46.0 及更高版本中實現了生產級功能，同時也提供了一個官方測試環境。此外，GitHub 上還有一個參考實現，方便使用者為其他框架貢獻程式碼或將其移植到其他框架。在 Google 產品生態系統中，此浮水印已應用於Gemini（影像）、Magic Editor 等功能以及ImageFX等工具。對於視頻，Veo 整合了 SynthID，目前在VideoFX中提供有限功能的試用版。

在 2025 年 Google I/O 大會上， SynthID Detector正式發布，這是一個面向公眾的品牌驗證平台：用戶上傳文件（文字、圖像、音訊或影片）後，它會檢測內容（或其部分內容）是否包含品牌識別。目前，該平台僅限少數用戶訪問，但其目標是逐步向記者、媒體從業人員和研究人員開放——對於這些群體而言，這項驗證至關重要。

除了Google生態系統之外，其他公司也宣布了多項重要的合作和應用。例如，NVIDIA已同意整合 SynthID，此舉可望加速其與更多產業工具的整合。同時，其他公司也在探索各自的發展路徑：例如，OpenAI 已推出用於識別影像是否源自DALL·E 的工具，並正在研發先進的水印技術。各種方法的融合——或者說互通性——將至關重要。

實際實施：成本、途徑與起點

如今，SynthID 主要整合到 優質服務 來自Google的 Vertex AI 和 Hugging Face 生態系統。它不是一個廣義的「免費」生產工具，儘管有一些 開放資源 （程式碼、文件和範例）進行實驗和評估。如果您使用 Transformers 進行開發，可以透過將其配置傳遞給 generate()；如果您使用 Vertex AI（圖像 2/3）， 標記應用於出口 透明地。

為了測試偵測器，除了 I/O 大會上發佈的入口網站之外，您還可以在Hugging Face 和 GitHub上使用已實現的版本。如果您是組織機構，則需要規劃如何公開驗證流程（私有、透過 API 或公開），需要哪些效能指標（誤報/漏報閾值），以及如何保護設定金鑰免於外洩。

標準現況及產業採用情況

SynthID 是通用標準嗎？目前還不是。谷歌在其產品中持續使用 SynthID，並已發布了關鍵組件，但要實現身份驗證的普及，還需要其他廠商的配合。最好的結果是，我們會看到大型科技公司、硬體製造商和社群媒體平台達成協議；最糟的情況是，出現各種互不相容的解決方案。就目前而言，開源運動和各種合作關係（例如與英偉達的合作）正朝著正確的方向發展。

根據Google公佈的數據，自2023年以來，SynthID已為數十億份內容（圖像、影片、音訊和文字）添加了浮水印。如此龐大的數量表明它有可能成為事實上的標準，同時，監管機構和公共組織也在積極推動針對深度偽造和篡改的強有力解決方案。

真正的限制與挑戰

沒有絕對萬無一失的水印。 SynthID Text 可以處理文字片段、適度的同義詞或輕微的改寫，但如果文字被完全重寫或翻譯成另一種語言，其可靠性就會下降。此外，在高度客觀的回答中（選擇自由度有限），引入訊號而不影響準確性的空間更小，因此更難檢測。

在影像、音訊和視訊中，該品牌能夠很好地承受常規轉換，但極端的篡改可能會降低訊號品質。 SynthID 的目的並非阻止動機強烈的攻擊者單獨作惡，而是增加作惡難度，更重要的是，與其他措施（例如內容審核、來源驗證、簽章元資料等）協同作用，以擴大覆蓋範圍。

學術界也提出了不同的見解。像Soheil Feizi這樣的專家指出，由於低階浮水印（LLM）的特性，實現可靠且不易察覺的文本水印非常複雜；即便如此，他們也讚賞社區可以測試檢測器並評估其穩健性。而像Scott Aaronson這樣的專家則強調，這項技術的重要性在於它已經應用於生產環境，而不僅僅是理論層面。

技術團隊快速指南

如果你要評估它，請從 Transformers 4.46.0+ 開始，然後 SynthID 配置： 定義 鍵 包含 20–30 個唯一隨機整數，以及 ngram_len 以 5 中的數據作為起點。新增一個採樣表，其中包含 採樣表大小 ≥ 2^16 和一個 種子 整數。啟動處理器 .generate() 並產生有和沒有標記的測試語料庫 訓練/調整 貝葉斯檢測器。

校準偵測器時，根據您對誤報和漏報的容忍度定義閾值。評估壓力場景（翻譯、大量改寫、截斷），並檢查驗證器的效能。如果多個模型共用一個分詞器，請確保它們使用相同的品牌方案，並使用所有模型的範例訓練偵測器，以提高其泛化能力。

部署期間，確定暴露模型（私有、API 或公用），加密並保護品牌金鑰，並監控偵測率/延遲率。向法務和產品團隊提供限制和假設的文檔，並與溝通團隊協調，解釋如何解讀「不確定」的結果。

對使用者和創作者的影響

對於最終用戶而言，擁有一個可以上傳文件並獲得清晰解讀（「已標記」、「未標記」、「不確定」）的驗證門戶，是透明度的一大進步。對於記者和核查團隊來說，這是一個額外的工具，可以在充斥著虛假內容的環境中支持事實查核工作。

對於藝術家和創作者而言，強大的數位足跡有助於捍衛其作品的作者和來源，並在必要時向受眾區分真人創作與虛擬創作。而對於平台而言，它則能降低審核成本，為發布政策提供可靠的訊號，並使產品符合新興的監管要求。

SynthID並非萬能靈藥，但它是一個堅實的基礎，結合元資料標準、加密簽章和清晰的策略，就能發揮至關重要的作用。隨著SynthID的普及應用，如果能夠建立互通性，業界將擁有一個更成熟的工具來處理生成式人工智慧，同時又不犧牲信任。