- 深度偽造技術是利用人工智慧產生的視聽內容，會對隱私、聲譽和公眾信任構成威脅。
- 其影響範圍從騷擾和非自願色情製品到企業詐欺和政治操縱。
- 儘管技術發展日新月異，西班牙和歐洲的法律框架已經提供了起訴有害用途的工具。
- 國防需要將技術檢測、組織規程以及批判性思維和網路安全的訓練結合起來。
深度偽造技術已從最初的網路奇觀演變為數位時代最嚴峻的挑戰之一。利用人工智慧技術篡改的視訊、音訊和圖像，可以讓我們看到某人說出或做出從未發生過的事情，其逼真程度在許多情況下甚至能欺騙專家。而且，這不僅影響名人或政客：任何在社群媒體上活躍的人都可能成為攻擊目標。
這種現象融合了三個極度危險的因素：強大的技術、便利的操作和巨大的傳播範圍。結果是，假訊息、金融詐騙、騷擾以及大眾對所見所聞信任度的普遍下降，都極易滋生。讓我們冷靜而詳細地分析深度偽造技術究竟是什麼，它是如何製作的，它對個人、公司和機構構成哪些風險，相關法律是如何規定的，以及我們可以採取哪些切實可行的措施來保護自己。
什麼是深度偽造技術？它為何如此重要？
「深度偽造」一詞源自於「深度學習」和「偽造」的組合。它指的是任何透過生成式人工智慧演算法產生或處理，使其看起來逼真的視聽內容——視訊、圖像或音訊。我們說的不是簡單的濾鏡或修圖，而是對人臉、手勢或聲音進行完全重建，使其能夠非常精確地模仿真人。
借助唾手可得甚至免費的工具，人們可以將一個人的臉疊加到另一個人的身體上，複製他們的聲音，或重現從未發生過的場景。神經網路和生成對抗網路（GAN）的進步大大提高了逼真度，使得區分真實內容和篡改內容變得更加困難。
深度偽造技術如今被視為虛假新聞的進化：過去人們篡改文字或照片，而現在則生成虛假視頻或逼真的音頻錄音，其情感和認知影響更大。我們的大腦往往更相信「眼見為憑」的內容，而非簡單的標題，這大大增強了其說服力。
雖然這項技術早在90年代末期就已存在，但直到2017年一位Reddit用戶開始發布以知名女演員面孔為素材的虛假色情內容後才開始廣為人知。自那以後，這項技術的應用迅速蔓延，不僅在娛樂領域，也在一些明顯惡意的場合中被廣泛使用。
深度偽造技術是如何製作的：簡單易懂的技術講解
深度偽造技術背後是機器學習系統，它們分析成千上萬張影像、幀或音訊片段。典型的臉部影像處理流程包含兩個主要步驟：編碼和解碼。首先，編碼演算法會研究兩張人臉之間的相似性，並提取一組共同特徵。然後，解碼器會利用對方的表情來重建目標影像。
實際上，我們需要訓練兩個獨立的解碼器，分別對應每張人臉。當把一個人的數據輸入到另一個人的解碼器中時，我們就能得到一段視頻，視頻中A的人看起來像是在模仿B的人的手勢和動作。如果操作正確，結果看起來就像是原始錄影。
另一種常用技術是使用生成對抗網路（GAN）。它包含兩個網路：生成器，用於生成虛假圖像或影片片段；以及判別器，用於區分真假。它們相互對抗數千次，不斷改進，直到判別器難以識別欺騙行為，最終結果與真實情況高度接近。
大多數視訊深度偽造都是透過向演算法輸入大量被模仿者的圖像而產生的。模型擁有的影像角度、手勢和光照條件越多，最終結果就越逼真。因此，傳統上，受害者往往是媒體曝光率高的人，儘管如今一張照片或幾秒鐘的錄音就足以產生一個像樣的克隆人。
就語音而言，複製系統只需幾秒鐘的錄音就能重現音色、口音和語速。透過將語音合成與人工智慧生成的腳本結合，可以製作出受害者「說出」攻擊者想讓其說的任何話的音訊。
深度偽造的類型：影像、視訊和語音
在深度偽造技術範疇內，我們可以根據竄改的內容類型和所使用的技術，區分出幾種不同的類型。其中兩種類型尤其流行：深度臉部偽造和深度語音偽造。
Deepface 是一種視訊技術，它透過產生或完全替換影片中人物的臉部來達到效果。該系統利用多張照片，生成逼真到足以媲美真實肖像的靜態人臉，然後將它們按順序連接起來，形成流暢的視頻。其目標是讓觀眾在觀看時完全不會察覺到這是一段人工合成的影片。
同時，深度語音技術專注於聲音模仿。該演算法能夠學習一個人的聲音特徵（頻率、語調、停頓、語氣詞等），然後可以朗讀任何文本，並將其偽裝成該人的聲音。這種深度偽造技術在企業和金融領域尤其危險。
2019 年就發生過一個典型的例子：網路犯罪分子複製了一位 CEO 的聲音，打電話給他公司的一位高階主管，命令緊急轉帳超過 250.000 萬美元。這位高層照做了，因為聲音聽起來和他上司的聲音一模一樣，而且緊急程度也令人信服。
除了以上兩類之外，還有混合型深度偽造技術，它結合了人工智慧生成的視訊、音訊和文本，使得所有內容——包括你所看到的和聽到的——都是合成的，但卻連貫一致。隨著技術的成熟，這些類型之間的界線正變得越來越模糊。
合法用途和積極應用
儘管我們通常將深度偽造技術與詐騙和網路霸凌聯繫起來，但如果以透明且獲得用戶同意的方式使用，這項技術也完全合法且極具價值。例如，在電影業，它被用於讓演員返老還童、重塑已故角色，或在不影響口型同步的情況下配音。
在教育領域，生成式模型能夠將視聽內容適配為多種語言，同時保留說話者的原始手勢。這有助於提高理解度，避免「低成本配音」的感覺，並促進課程和會議的全球可及性。
人們也正在探索各種輔助功能應用，例如創建能夠以個人化方式解讀手語的虛擬形象，或為無法說話的人客製合成語音。只要採取正確的倫理方法，今天令我們擔憂的技術也能為數位包容性打開重要的大門。
最大的挑戰並非工具本身，而是其使用的背景、目的和透明度。正因如此，歐洲近期推出的法規強調，必須清楚標註人工智慧產生的內容，以便大眾能夠區分不同類型的內容。
深度偽造科技對社會的風險與威脅
深度偽造技術的負面影響涵蓋了從個人私人生活到政治、經濟和社會穩定的方方面面。其中最顯而易見的危害之一是虛假訊息傳播：偽造的影片中，政治領袖發表煽動性言論或承認從未發生的罪行。
即使這些言論後來被駁斥，損害也已造成，因為第一次觀看時的情緒衝擊往往超過任何後續的糾正。這加劇了公眾輿論的兩極化，助長了陰謀論的傳播，並削弱了公眾對媒體和民主制度的信任。
另一個極其嚴重的風險是利用深度偽造技術進行騷擾、誹謗和侵犯隱私。利用女性（尤其是政治家、活動家和記者）的臉部製作虛假色情內容，已成為一種數位暴力形式，對她們的聲譽、個人生活和心理健康造成毀滅性後果。
近期研究表明，在某些學術調查中，約有2,2%的受訪者認為自己是私密深度偽造內容的受害者，另有1,8%的人承認自己製作或傳播過此類內容。儘管這些數字看似不高，但卻反映了一種令人擔憂且日益增長的趨勢。
此外，深度偽造技術加劇了「真相危機」：如果任何視聽證據都可以偽造，社會就有可能認為任何事物都無法完全可信。這或許是最危險的長期影響，因為它會侵蝕數位共存和知情公共辯論所需的基本信任。
對詐欺和企業網路安全的影響
在商業領域，深度偽造技術正成為網路犯罪分子高效的攻擊工具。這並非科幻小說：已經有大量案例表明，有人利用視訊或音訊冒充高階主管，下達轉帳指令、索取敏感資料或發布虛假策略指示。
最常見的場景之一是[訊息不明確，可能是「電子郵件地址」或「電話號碼」]。除了經典的詐騙郵件外，攻擊者還會附上CEO或CFO的深度偽造視頻或音頻，以增強請求的緊迫性。受害者看到或聽到「老闆」的聲音後，便會放鬆警惕，執行命令。
深度偽造技術也被用於高階社會工程攻擊。例如，攻擊者會向律師事務所發送一段看似普通的視頻，視頻中一位合夥人要求事務所緊急簽署合約或提供某些文件。視訊內容合情合理，影像和聲音也匹配，而驗證系統僅依賴臉部辨識技術。
在日益普及的遠距辦公環境中，攻擊者會冒充團隊成員滲透視訊通話。他們利用人工智慧產生的虛擬形象參與會議、要求存取內部系統或施壓索取機密資訊。如果這種行為看起來並不異常，那麼冒充行為就很難被察覺。
所有這些都對基於臉部或語音識別的安全系統構成了直接挑戰。近期研究表明，對陰影進行細微調整、智慧模糊處理或添加干擾噪聲，都能顯著降低生物辨識偵測器的有效性，使偽造的臉孔能夠繞過門禁系統。
檢測挑戰：為什麼僅靠防毒軟體是不夠的
偵測深度偽造並非安裝軟體後就萬事大吉那麼簡單。目前的檢測模型面臨一個關鍵問題：它們的泛化能力有限。這些模型通常使用特定的篡改技術和風格進行訓練，一旦出現新一代演算法，它們的有效性就會下降。
此外，攻擊者還可以引入專門設計的對抗性幹擾，以欺騙偵測器。也就是說，他們會添加人眼無法察覺的噪聲，但這種噪音會迷惑取證系統，使篡改後的內容能夠像真實內容一樣通過過濾器。
此外，可擴展性也是一大挑戰。平台和社群網路每天都會收到大量的影片和音訊內容，對每一條內容進行深入分析幾乎是不可能的。許多平台被迫採用抽樣、表面分析或自動化系統，而這些方法有時也會失效。
因此，目前尚無針對深度偽造技術的「靈丹妙藥」。防禦需要多種技術的結合：元資料分析、對視覺或音訊偽造物的檢查、訓練用於檢測細微模式的神經網絡，以及至關重要的使用者培訓和批判性思維。
人工智慧的進步本身就需要不斷更新檢測模型。每一代新的生成式工具都需要對防禦系統進行審查和重新訓練，從而在攻擊者和防禦者之間形成一場永無止境的貓鼠遊戲。
法律框架：西班牙和歐盟如何應對
從法律角度來看，深度偽造技術本身並不總是被視為特定罪行，但其有害使用觸犯了多項現行刑事罪行和相關法規。在西班牙，《刑法典》提供了多種形式的保護措施，以打擊冒充他人和侵犯隱私的行為。
第197條及後續條款保護隱私權及個人肖像權，規定未經同意取得、使用或傳播私密影像或錄影的行為，即使經過數位處理，也屬於違法行為。未經許可傳播的性愛深度偽造影片可被視為侵犯隱私權的犯罪。
第401條將身分盜竊定為犯罪，例如，當使用深度偽造技術冒充他人，以欺騙第三方或實施詐欺時，該條款適用。第208條至第210條規範了誹謗和詆毀行為，適用於虛假內容嚴重損害受害者名譽或聲譽的情況。
第248條和第249條涉及欺詐，涵蓋利用篡改聲音或面孔獲取非法經濟利益的案件。在這些案件中，深度偽造技術是犯罪手段，儘管它本身並不構成單獨的罪行。
同時，《2018年第3號組織法》（LOPDGDD）和《一般資料保護規範》（GDPR）也對個人資料進行保護，包括臉部和語音等生物辨識資料。未經他人同意，在深度偽造中使用他人的圖像或聲音可能構成嚴重的資料保護侵權行為，並可能面臨行政處罰以及民事或刑事責任。
1982 年第 1 號組織法，關於名譽權、隱私權和個人形象權，允許受害者對任何傳播侵犯其尊嚴或名譽的深度偽造內容的人提起民事訴訟，要求刪除該內容、賠償損失並採取緊急預防措施以阻止其傳播。
在歐洲層面，《人工智慧法案》（歐盟人工智慧條例）要求對人工智慧產生的內容，包括深度偽造內容，進行明確標示。同時，《數位服務法案》（DSA）要求數位平台和服務商對虛假、誹謗或侵犯基本權利的內容迅速做出反應。
此外，包括西班牙在內的一些政府已經開始更具體地界定與性深度偽造和誘騙相關的犯罪行為，加強對未經同意使用人工智慧生成的色情製品以及透過視聽操縱虐待未成年人的刑事保護。
兒童、婦女和弱勢族群所面臨的特殊風險
深度偽造技術並非對所有人造成同等影響。數據顯示，女性、未成年人和某些公眾群體受到的影響尤其嚴重，尤其是在未經同意的情況下分享私密內容方面。
近期報告顯示，網路上發現的大量深度偽造影片內容涉及色情，且目標群體為女性，其中許多是公眾人物。這導致了騷擾、勒索和誹謗等一系列攻擊活動，並伴隨嚴重的數位性別暴力。
一些研究和報告估計，西班牙五分之一的年輕人表示，他們在童年或青少年時期有過與深度偽造技術相關的經歷，無論是作為直接受害者、旁觀者還是參與者。這種早期接觸增加了騷擾和性勒索行為正常化的風險。
對於犯罪學和司法系統而言，深度偽造技術帶來了一個額外的難題：它們可能被作為「證據」提交到法律訴訟中，使法官、檢察官和專家難以確定材料的真實性。
這種情況也為個人安全和公共網路安全領域帶來了嚴重問題，因為如果不同時開發出檢測合成內容的強大機制，基於臉部或語音的存取控制生物辨識技術可能會變得越來越不可靠。
除了對個人造成的傷害之外，深度偽造技術的氾濫也加劇了人們對數位資訊的普遍不信任。如果任何視訊或音訊都可能被偽造，那麼「沒有什麼是安全的」這種觀念就會根深蒂固，最終，許多人不再試圖區分真實資訊和被篡改的資訊。
這種資訊疲勞尤其危險，因為它為虛假資訊宣傳和大規模操縱鋪平了道路。將假新聞與視聽深度偽造技術結合的假訊息攻擊可以影響選舉、公投、投資決策和國際關係。
社群媒體加速了這個過程。虛假但影響巨大的內容可以在幾分鐘內迅速傳播，而核實和更正資訊則要晚得多，傳播範圍也更窄。這種滯後顯然有利於那些利用生成式人工智慧進行惡意活動的人。
包括Facebook、X（原Twitter）、Google等在內的各大平台已宣布採取措施限制有害深度偽造內容的傳播，措施涵蓋明確禁止、標記以及快速刪除系統等。然而，問題的嚴重性和技術的快速發展意味著應對措施始終只能是部分有效的。
最深遠的風險在於，這些現象會削弱公民的批判性思維。如果“一切皆有可能是謊言”，那麼散播懷疑、傳播極端理論以及破壞公眾對媒體、機構甚至民主制度本身的信任就變得更加容易。
國防技術和組織戰略
面對如此複雜的問題，因應措施也必須是多維度的。在科技層面，人們正在開發基於人工智慧的偵測演算法，以尋找影片中細微的不一致之處：例如唇形不同步、不自然的眨眼、壓縮偽影、過度平滑的皮膚或臉部邊緣模糊等。
另一種方法是在內容「來源」進行保護，即插入不可見的水印或可驗證的元數據，以確認影片或照片的真實性。如果存在公認的標準和驗證工具，這些標記可以幫助區分原始素材和篡改的副本。
在企業環境中，增強型多因素身分驗證正日益普及。這意味著不僅依賴個人的圖像或聲音，而且還將其與其他因素結合起來：地理位置、典型使用模式、透過其他管道（簡訊、安全應用程式）進行的確認或一次性程式碼。
此外，建議針對敏感交易（例如銀行轉帳或憑證變更）制定明確的流程。例如，應明確規定任何重要的金融交易都不得僅透過電子郵件或視訊通話執行，而必須始終透過其他管道進行額外驗證。
最後，持續的培訓至關重要。那些進行網路釣魚和深度偽造演練——教導員工辨識音訊同步問題、不自然的手勢或異常行為等細微跡象——的組織，能夠建立更具韌性的安全文化。
如何辨識深度偽造：日常生活中的實用跡象
從使用者的角度來看，雖然有些線索並非總是確鑿無疑，但有一些線索可以幫助識別虛假內容。首先，建議留意明顯的視覺缺陷：例如臉部邊緣模糊、與背景光線不一致、動作生硬或臉部表情「怪異」。
眨眼是另一個有用的指標。許多深度偽造影片仍然存在不自然的眨眼模式：眼睛長時間睜得太大，或者眨眼節奏怪異。雖然新型號在這方面有所改進，但在許多情況下，這仍然是一個弱點。
觀察一個人的身體、頸部和肩部也很重要。大多數偽造手段都集中在臉部，因此，如果身體其他部位的比例、姿勢或手勢與該人的預期不符，就會暴露偽造的真相。
影片時長也是一個線索。製作較長的深度偽造影片需要更多資源，出錯的機率也更高，因此許多被篡改的內容都比較短，並且專注於一個具有衝擊力的短語或場景。一段時長很短但包含爆炸性訊息的影片片段應該要引起警惕。
最後，分析錄影的背景和來源至關重要。是誰最早分享的？它出現在信譽良好的媒體上，還是只出現在匿名帳號上？是否有其他獨立來源證實了你所看到的內容？放慢播放速度或逐幀觀看影片有助於檢測背景、臉部角度或口腔內部（舌頭、牙齒）的突然變化——這些區域是許多演算法仍然無法識別的。
媒體素養與核實文化
如果沒有具備批判性思考能力和基本核實能力的公民，任何檢測技術都無濟於事。 INCIBE 和網路使用者安全辦公室等組織強調，我們需要對接收到的資訊保持警惕，詳細分析內容，並始終使用可靠來源進行核實。
養成不衝動分享任何內容的習慣，尤其是不分享那些會引發強烈情緒（恐懼、憤怒、憤慨）的內容，是抵禦深度偽造和虛假新聞傳播的最佳方法之一。花幾秒鐘問問自己：「如果我相信這件事，誰會從中受益？」就能產生巨大的影響力。
網路安全培訓、線上研究和網路情報並非專業人士的專屬。了解網路釣魚、社交工程和虛假資訊攻擊的運作方式，能夠幫助任何人大幅降低自身在個人生活和職業生涯中的安全風險。
對於兒童和青少年來說，將這些主題融入數位和情緒教育尤其重要，要向他們解釋網路霸凌、性勒索和分享私密照片的風險。讓他們明白影片可能是假的，但其後果可能非常真實，這一點至關重要。
對於企業和機構而言，投資於超越通用網路安全建議的意識提升專案如今已成為一項策略要務。那些不了解深度偽造技術、其影響以及如何應對的人，將在新的數位化環境中明顯處於劣勢。
種種跡象表明，深度偽造技術的數量和複雜程度將繼續激增，影響數百萬人的安全、經濟、政治和私人生活。承認深度偽造技術已成為數位環境的一部分，要求建立清晰的法律框架，投資研發強大的檢測技術，以及最重要的是，培養一種驗證和共同責任的文化，是防止這一強大工具淪為徹底破壞我們網路生活信任的武器的最佳途徑。