- 深度伪造技术是利用人工智能生成的视听内容，会对隐私、声誉和公众信任构成威胁。
- 其影响范围从骚扰和非自愿色情制品到企业欺诈和政治操纵。
- 尽管技术发展日新月异，但西班牙和欧洲的法律框架已经提供了起诉有害用途的工具。
- 国防需要将技术检测、组织规程以及批判性思维和网络安全方面的培训结合起来。
深度伪造技术已从最初的网络奇观演变为数字时代最严峻的挑战之一。利用人工智能技术篡改的视频、音频和图像，可以让我们看到某人说出或做出从未发生过的事情，其逼真程度在很多情况下甚至能骗过专家。而且，这不仅仅影响名人或政客：任何在社交媒体上活跃的人都可能成为攻击目标。
这种现象融合了三个极其危险的因素：强大的技术、便捷的操作和巨大的传播范围。其结果是，虚假信息、金融诈骗、骚扰以及公众对所见所闻信任度的普遍下降，都极易滋生。让我们冷静而详细地分析一下深度伪造技术究竟是什么，它是如何制作的，它对个人、公司和机构构成哪些风险，相关法律是如何规定的，以及我们可以采取哪些切实可行的措施来保护自己。
什么是深度伪造技术？它为何如此重要？
“深度伪造”一词源于“深度学习”和“伪造”的组合。它指的是任何通过生成式人工智能算法生成或处理，使其看起来逼真的视听内容——视频、图像或音频。我们说的不是简单的滤镜或修图，而是对人脸、手势或声音进行完全重建，使其能够非常精确地模仿真人。
借助唾手可得甚至免费的工具，人们可以将一个人的脸叠加到另一个人的身体上，克隆他们的声音，或者重现从未发生过的场景。神经网络和生成对抗网络（GAN）的进步极大地提高了逼真度，使得区分真实内容和篡改内容变得更加困难。
深度伪造技术如今被视为虚假新闻的进化：过去人们篡改文字或照片，而现在则生成虚假视频或逼真的音频录音，其情感和认知影响更大。我们的大脑往往更相信“眼见为实”的内容，而非简单的标题，这大大增强了其说服力。
虽然这项技术早在上世纪90年代末就已存在，但直到2017年一位Reddit用户开始发布以知名女演员面孔为素材的虚假色情内容后才开始广为人知。自那以后，这项技术的应用迅速蔓延，不仅在娱乐领域，也在一些明显恶意的场合中被广泛使用。
深度伪造技术是如何制作的：通俗易懂的技术讲解
深度伪造技术背后是机器学习系统，它们会分析成千上万张图像、帧或音频片段。典型的面部图像处理流程包含两个主要步骤：编码和解码。首先，编码算法会研究两张人脸之间的相似性，并提取一组共同特征。然后，解码器会利用对方的表情来重建目标图像。
实际上，我们需要训练两个独立的解码器，分别对应每张人脸。当把一个人的数据输入到另一个人的解码器中时，我们就能得到一段视频，视频中A的人看起来像是在模仿B的人的手势和动作。如果操作正确，结果看起来就像是原始录像。
另一种常用技术是使用生成对抗网络（GAN）。它包含两个网络：生成器，用于生成虚假图像或视频片段；以及判别器，用于区分真假。它们相互对抗数千次，不断改进，直到判别器难以识别欺骗行为，最终结果与真实情况高度接近。
大多数视频深度伪造都是通过向算法输入大量被模仿者的图像而生成的。模型拥有的图像角度、手势和光照条件越多，最终结果就越逼真。因此，传统上，受害者往往是媒体曝光率高的人，尽管如今一张照片或几秒钟的录音就足以生成一个像样的克隆人。
就语音而言，克隆系统只需几秒钟的录音就能重现音色、口音和语速。通过将语音合成与人工智能生成的脚本相结合，可以制作出受害者“说出”攻击者想让其说的任何话的音频。
深度伪造的类型：图像、视频和语音
在深度伪造技术范畴内，我们可以根据篡改的内容类型和所使用的技术，区分出几种不同的类型。其中两种类型尤其流行：深度脸部伪造和深度语音伪造。
Deepface 是一种视频技术，它通过生成或完全替换视频中人物的面部来达到效果。该系统利用多张照片，生成逼真到足以媲美真实肖像的静态人脸，然后将它们按顺序连接起来，形成流畅的视频。其目标是让观众在观看时完全不会察觉到这是一段人工合成的视频。
与此同时，深度语音技术专注于声音模仿。该算法能够学习一个人的声音特征（频率、语调、停顿、语气词等），然后可以朗读任何文本，并将其伪装成该人的声音。这种深度伪造技术在企业和金融领域尤其危险。
2019 年就发生过一个典型的例子：网络犯罪分子克隆了一位 CEO 的声音，打电话给他公司的一位高管，命令紧急转账超过 250.000 万美元。这位高管照做了，因为声音听起来和他上司的声音一模一样，而且紧急程度也令人信服。
除了以上两类之外，还有混合型深度伪造技术，它结合了人工智能生成的视频、音频和文本，使得所有内容——包括你所看到的和听到的——都是合成的，但却连贯一致。随着技术的成熟，这些类型之间的界限正变得越来越模糊。
合法用途和积极应用
尽管我们通常将深度伪造技术与诈骗和网络欺凌联系起来，但如果以透明且获得用户同意的方式使用，这项技术也完全合法且极具价值。例如，在电影行业，它被用于让演员返老还童、重塑已故角色，或在不影响口型同步的情况下配音。
在教育领域，生成式模型能够将视听内容适配为多种语言，同时保留说话者的原始手势。这有助于提高理解度，避免“低成本配音”的感觉，并促进课程和会议的全球可及性。
人们也在探索各种辅助功能应用，例如创建能够以个性化方式解读手语的虚拟形象，或者为无法说话的人定制合成语音。只要采取正确的伦理方法，今天令我们担忧的技术也能为数字包容性打开重要的大门。
最大的挑战并非工具本身，而是其使用的背景、目的和透明度。正因如此，欧洲近期出台的法规强调，必须清晰标注人工智能生成的内容，以便公众能够区分不同类型的内容。
深度伪造技术对社会的风险和威胁
深度伪造技术的负面影响涵盖了从个人私生活到政治、经济和社会稳定的方方面面。其中最显而易见的危害之一是虚假信息传播：伪造的视频中，政治领导人发表煽动性言论或承认从未发生的罪行。
即使这些言论后来被驳斥，损害也已造成，因为第一次观看时的情感冲击往往超过任何后续的纠正。这加剧了公众舆论的两极分化，助长了阴谋论的传播，并削弱了公众对媒体和民主制度的信任。
另一个极其严重的风险是利用深度伪造技术进行骚扰、诽谤和侵犯隐私。利用女性（尤其是政治家、活动家和记者）的面部制作虚假色情内容，已成为一种数字暴力形式，对她们的声誉、个人生活和心理健康造成毁灭性后果。
近期研究表明，在某些学术调查中，约有2,2%的受访者认为自己是私密深度伪造内容的受害者，另有1,8%的人承认自己制作或传播过此类内容。尽管这些数字看似不高，但却反映了一种令人担忧且日益增长的趋势。
此外，深度伪造技术加剧了“真相危机”：如果任何视听证据都可以伪造，社会就有可能认为任何事物都无法完全可信。这或许是最危险的长期影响，因为它会侵蚀数字共存和知情公共辩论所必需的基本信任。
对欺诈和企业网络安全的影响
在商业领域，深度伪造技术正成为网络犯罪分子高效的攻击工具。这并非科幻小说：已经有大量案例表明，有人利用视频或音频冒充高管，下达转账指令、索取敏感数据或发布虚假战略指示。
最常见的场景之一是[信息不明确，可能是“电子邮件地址”或“电话号码”]。除了经典的诈骗邮件外，攻击者还会附上CEO或CFO的深度伪造视频或音频，以增强请求的紧迫性。受害者看到或听到“老板”的声音后，便会放松警惕，执行命令。
深度伪造技术也被用于高级社会工程攻击。例如，攻击者会向律师事务所发送一段看似普通的视频，视频中一位合伙人要求事务所紧急签署合同或提供某些文件。视频内容合情合理，图像和声音也匹配，而验证系统仅依赖于面部识别技术。
在日益普及的远程办公环境中，攻击者会冒充团队成员渗透视频通话。他们利用人工智能生成的虚拟形象参与会议、请求访问内部系统或施压索取机密信息。如果这种行为看起来并不异常，那么冒充行为就很难被察觉。
所有这些都对基于面部或语音识别的安全系统构成了直接挑战。近期研究表明，对阴影进行细微调整、智能模糊处理或添加干扰噪声，都能显著降低生物识别检测器的有效性，使伪造的面孔能够绕过门禁系统。
检测挑战：为什么仅靠杀毒软件是不够的
检测深度伪造并非安装软件后就万事大吉那么简单。目前的检测模型面临一个关键问题：它们的泛化能力有限。这些模型通常使用特定的篡改技术和风格进行训练，一旦出现新一代算法，它们的有效性就会下降。
此外，攻击者还可以引入专门设计的对抗性干扰，以欺骗检测器。也就是说，他们会添加人眼无法察觉的噪声，但这种噪声会迷惑取证系统，使篡改后的内容能够像真实内容一样通过过滤器。
此外，可扩展性也是一大挑战。平台和社交网络每天都会收到海量的视频和音频内容，对每一条内容进行深入分析几乎是不可能的。许多平台被迫采用抽样、表面分析或自动化系统，而这些方法有时也会失效。
因此，目前尚无针对深度伪造技术的“灵丹妙药”。防御需要多种技术的结合：元数据分析、对视觉或音频伪造物的检查、训练用于检测细微模式的神经网络，以及至关重要的用户培训和批判性思维。
人工智能的进步本身就需要不断更新检测模型。每一代新的生成式工具都需要对防御系统进行审查和重新训练，从而在攻击者和防御者之间形成一场永无休止的猫鼠游戏。
法律框架：西班牙和欧盟如何应对
从法律角度来看，深度伪造技术本身并不总是被视为特定罪行，但其有害使用触犯了多项现行刑事罪行和相关法规。在西班牙，《刑法典》提供了多种形式的保护措施，以打击冒充他人和侵犯隐私的行为。
第197条及后续条款保护隐私权和个人肖像权，规定未经同意获取、使用或传播私密图像或录像的行为，即使经过数字处理，也属于违法行为。未经许可传播的性爱深度伪造视频可被视为侵犯隐私权的犯罪。
第401条将身份盗窃定为犯罪，例如，当使用深度伪造技术冒充他人，以欺骗第三方或实施欺诈时，该条款适用。第208条至第210条规范了诽谤和诋毁行为，适用于虚假内容严重损害受害者名誉或声誉的情况。
第248条和第249条涉及欺诈，涵盖利用篡改声音或面孔获取非法经济利益的案件。在这些案件中，深度伪造技术是犯罪手段，尽管它本身并不构成单独的罪行。
与此同时，《2018年第3号组织法》（LOPDGDD）和《通用数据保护条例》（GDPR）也对个人数据进行保护，包括面部和语音等生物识别数据。未经他人同意，在深度伪造中使用他人的图像或声音可能构成严重的数据保护侵权行为，并可能面临行政处罚以及民事或刑事责任。
1982 年第 1 号组织法，关于名誉权、隐私权和个人形象权，允许受害者对任何传播侵犯其尊严或名誉的深度伪造内容的人提起民事诉讼，要求删除该内容、赔偿损失并采取紧急预防措施以阻止其传播。
在欧洲层面，《人工智能法案》（欧盟人工智能条例）要求对人工智能生成的内容，包括深度伪造内容，进行明确标识。同时，《数字服务法案》（DSA）要求数字平台和服务商对虚假、诽谤或侵犯基本权利的内容迅速做出反应。
此外，包括西班牙在内的一些政府已经开始更具体地界定与性深度伪造和诱骗相关的犯罪行为，加强对未经同意使用人工智能生成的色情制品以及通过视听操纵虐待未成年人的刑事保护。
儿童、妇女和弱势群体面临的特殊风险
深度伪造技术并非对所有人造成同等影响。数据显示，女性、未成年人和某些公众群体受到的影响尤为严重，尤其是在未经同意的情况下分享私密内容方面。
近期报告显示，网络上发现的大量深度伪造视频内容涉及色情，且目标群体为女性，其中许多是公众人物。这导致了骚扰、勒索和诽谤等一系列攻击活动，并伴有严重的数字性别暴力。
一些研究和报告估计，西班牙五分之一的年轻人表示，他们在童年或青少年时期有过与深度伪造技术相关的经历，无论是作为直接受害者、旁观者还是参与者。这种早期接触增加了骚扰和性勒索行为正常化的风险。
对于犯罪学和司法系统而言，深度伪造技术带来了一个额外的难题：它们可能被作为“证据”提交到法律诉讼中，使法官、检察官和专家难以确定材料的真实性。
这种情况也给个人安全和公共网络安全领域带来了严重问题，因为如果不同时开发出检测合成内容的强大机制，基于面部或语音的访问控制生物识别技术可能会变得越来越不可靠。
除了对个人造成的伤害之外，深度伪造技术的泛滥也加剧了人们对数字信息的普遍不信任。如果任何视频或音频都可能被伪造，那么“没有什么是安全的”这种观念就会根深蒂固，最终，许多人不再试图区分真实信息和被篡改的信息。
这种信息疲劳尤其危险，因为它为虚假信息宣传和大规模操纵铺平了道路。将假新闻与视听深度伪造技术相结合的虚假信息攻击可以影响选举、公投、投资决策和国际关系。
社交媒体加速了这一过程。虚假但影响巨大的内容可以在几分钟内迅速传播，而核实和更正信息则要晚得多，传播范围也更窄。这种滞后显然有利于那些利用生成式人工智能进行恶意活动的人。
包括Facebook、X（原Twitter）、谷歌等在内的各大平台已宣布采取措施限制有害深度伪造内容的传播，措施涵盖明确禁止、标记以及快速删除系统等。然而，问题的严重性和技术的快速发展意味着应对措施始终只能是部分有效的。
最深远的风险在于，这些现象会削弱公民的批判性思维。如果“一切皆有可能是谎言”，那么散播怀疑、传播极端理论以及破坏公众对媒体、机构乃至民主制度本身的信任就变得更加容易。
国防技术和组织战略
面对如此复杂的问题，应对措施也必须是多维度的。在技术层面，人们正在开发基于人工智能的检测算法，以寻找视频中细微的不一致之处：例如唇形不同步、不自然的眨眼、压缩伪影、过度平滑的皮肤或面部边缘模糊等。
另一种方法是在内容“源头”进行保护，即插入不可见的水印或可验证的元数据，以确认视频或照片的真实性。如果存在公认的标准和验证工具，这些标记可以帮助区分原始素材和篡改过的副本。
在企业环境中，增强型多因素身份验证正日益普及。这意味着不仅依赖于个人的图像或声音，而且还将其与其他因素结合起来：地理位置、典型使用模式、通过其他渠道（短信、安全应用程序）进行的确认或一次性代码。
此外，建议针对敏感交易（例如银行转账或凭证变更）制定明确的流程。例如，应明确规定任何重要的金融交易都不得仅通过电子邮件或视频通话执行，而必须始终通过其他渠道进行额外验证。
最后，持续的培训至关重要。那些开展网络钓鱼和深度伪造演练——教会员工识别诸如音频同步问题、不自然的手势或异常行为等细微迹象——的组织，能够建立起更具韧性的安全文化。
如何识别深度伪造：日常生活中的实用迹象
从用户的角度来看，虽然一些线索并非总是确凿无疑，但有一些线索可以帮助识别虚假内容。首先，建议留意明显的视觉缺陷：例如面部边缘模糊、与背景光线不一致、动作生硬或面部表情“怪异”。
眨眼是另一个有用的指标。许多深度伪造视频仍然存在不自然的眨眼模式：眼睛长时间睁得太大，或者眨眼节奏怪异。虽然新型号在这方面有所改进，但在很多情况下，这仍然是一个弱点。
观察一个人的身体、颈部和肩部也很重要。大多数伪造手段都集中在面部，因此，如果身体其他部位的比例、姿势或手势与该人的预期不符，就会暴露伪造的真相。
视频时长也是一个线索。制作较长的深度伪造视频需要更多资源，出错的概率也更高，因此很多被篡改的内容都比较短，并且专注于一个具有冲击力的短语或场景。一段时长很短但包含爆炸性信息的视频片段应该引起警惕。
最后，分析录像的背景和来源至关重要。是谁最先分享的？它出现在信誉良好的媒体上，还是只出现在匿名账户上？是否有其他独立来源证实了你所看到的内容？放慢播放速度或逐帧观看视频有助于检测背景、面部角度或口腔内部（舌头、牙齿）的突然变化——这些区域是许多算法仍然无法识别的。
媒体素养与核实文化
如果没有具备批判性思维能力和基本核实能力的公民，任何检测技术都无济于事。INCIBE 和互联网用户安全办公室等组织强调，我们需要对接收到的信息保持警惕，详细分析内容，并始终使用可靠来源进行核实。
养成不冲动分享任何内容的习惯，尤其是不分享那些会引发强烈情绪（恐惧、愤怒、愤慨）的内容，是抵御深度伪造和虚假新闻传播的最佳方法之一。花几秒钟问问自己：“如果我相信这件事，谁会从中受益？”就能产生巨大的影响。
网络安全培训、在线研究和网络情报并非专业人士的专属。了解网络钓鱼、社交工程和虚假信息攻击的运作方式，能够帮助任何人显著降低自身在个人生活和职业生涯中的安全风险。
对于儿童和青少年来说，将这些话题融入数字和情感教育尤为重要，要向他们解释网络欺凌、性勒索和分享私密照片的风险。让他们明白视频可能是假的，但其后果却可能非常真实，这一点至关重要。
对于企业和机构而言，投资于超越通用网络安全建议的意识提升项目如今已成为一项战略要务。那些不了解深度伪造技术、其影响以及如何应对的人，将在新的数字化环境中明显处于劣势。
种种迹象表明，深度伪造技术的数量和复杂程度将继续激增，影响数百万人的安全、经济、政治和私人生活。承认深度伪造技术已成为数字环境的一部分，要求建立清晰的法律框架，投资研发强大的检测技术，以及最重要的是，培养一种验证和共同责任的文化，是防止这一强大工具沦为彻底破坏我们网络生活信任的武器的最佳途径。