- 人工智能驱动的网络钓鱼结合了合成文本、语音和视频，制造出高度可信的骗局。
- 关键迹象：情绪急迫、不寻常的要求、可疑的链接以及细微的音频/视频故障。
- 有效保护：通过其他渠道进行验证、双因素身份验证、更新和人工智能驱动的安全解决方案。
- 国防需要人工智能、数据和持续的人工监督，才能适应不断演变的攻击。
人工智能不仅提高了生产力，也助长了极具迷惑性的诈骗。如今，一封看似完美的电子邮件、一个熟悉的电话声音，或一段逼真的视频，都可能是算法生成的纯粹仿制品。因此，学习如何识别人工智能生成的钓鱼邮件已不再是可选项，而是安全上网的必备技能。
过去那种发送拼写错误和链接失效邮件的伎俩已经升级了。现在，犯罪分子将语言模型、语音克隆和深度伪造技术结合起来，以欺骗任何人。更令人担忧的是其规模：借助人工智能，攻击者可以在几分钟内个性化数千条信息，随时调整策略，并利用我们信任和紧迫感的固有偏见，让我们在不经思考的情况下上当受骗。
诈骗分子利用人工智能工具
恶意行为者已经掌握了多种攻击手段。一方面，他们可以使用文本生成器生成流畅的信息，使其听起来像是来自记者、公司或大学的真实信息。另一方面，他们还可以使用深度伪造软件（例如换脸工具），以惊人的准确度匹配面部和手势。
第三个要素是语音克隆：只需几分钟的公开音频，就能复制几乎任何人的音色、口音和语气词。这种组合使得电子邮件、电话和视频听起来非常逼真，尽管它们完全是人为合成的。
最常见的由人工智能驱动的诈骗手段
最常见的骗局之一是“亲戚急需用钱2.0”骗局。以前，只需一条耸人听闻的信息就足以让人上当；现在，来电者的声音酷似你的孩子、母亲或朋友，并会以紧急求助为由索要钱财。这种情感上的共鸣，加上声音模仿技术，如果你不通过其他途径核实情况，很容易就会放松警惕。
另一种经典骗局的升级版是虚假购物诈骗：诱人的广告、捏造的评论以及与原网站一模一样的克隆网站，所有这些都由人工智能精心策划，让你难以察觉其中的破绽。与此同时，人工智能驱动的网络钓鱼也变得更加复杂：冒充你的电子邮件或银行客服的电话、包含你真实姓名和详细信息的短信，以及极具迷惑性的按钮，诱使你点击并泄露你的个人信息。
人工智能还会通过分析你在社交媒体上发布的内容来猜测密码或找回密码，它甚至被用作诱饵，植入一些看似免费的程序（操作系统、高级工具等）中，而这些程序实际上会安装恶意软件。此外，模仿客服人员窃取数据的虚假聊天机器人也越来越多。
还有一些自动语音电话，冒充银行或公共服务机构：一个听起来很逼真的机器人会告诉你你的账户已被盗用，并要求你完成“验证”步骤。信息很明确：挂断电话，自己拨打机构的官方电话号码，而不是他们提供的号码。
您应该注意的主要风险
逼真程度已经大大提高。如今的深度伪造技术可以让你看起来和亲人一模一样，从而诱使你做出冲动的行为。此外，他们还利用紧迫感来达到目的：设定几分钟的最后期限、威胁屏蔽以及施加情感压力，阻止你进行验证。
此外，还有大量虚假网站，它们几乎完美地复制了网站的设计和域名；还有会安装恶意软件的附件或链接；以及旨在窃取身份信息、清空账户或远程控制设备的攻击活动。所有这些都包装得天衣无缝。
- 深度伪造的质量 乍看之下和听觉上都具有欺骗性。
- 情绪紧迫性 这会降低你的批判性思维能力。
- 网站造假 以及几乎无法区分的银行表格。
- 恶意链接/文件 伴有恶意软件和数据盗窃。
- 账户访问和冒用 欺诈第三方。
如何识别网络钓鱼和深度伪造
人工智能攻击并非万无一失。在电子邮件和短信中，要警惕恐吓和紧迫感，以及不寻常的要求（例如索要钱财或凭证），还有那些虽然文笔流畅但内容空洞或脱离语境的文本。将鼠标悬停在链接上：如果实际域名不匹配，则是一个危险信号。
在音频和视频制作中，敏锐的听觉和视觉至关重要。有时，音色、呼吸声或语音延迟方面会出现一些细微的瑕疵，或者出现不自然的微动作、眨眼和唇形不同步等问题。如果您不确定，可以要求对方做出一些难度较高的动作（例如转头、以特定方式移动手部），因为深度伪造技术往往难以准确捕捉这些动作。
当你收到来自熟人但使用新账号或写作风格明显不同的消息时，请考虑通过其他渠道进行验证。如果对话内容涉及加密货币、奇迹投资或即时付款，则很可能是骗局。
为了获得更全面的支持，您可以使用人工智能生成的文本检测器或事实核查工具来验证可疑的说法。它们并非万无一失，但当某些事情看起来不太对劲时，它们可以提供有用的第二意见。
真实案例说明问题
在英国，一名诈骗犯利用人工智能冒充首席执行官，诱骗一名员工转账243.000万美元。在美国，有人向学生发送电子邮件，敦促他们购买礼品卡，声称是送给一位教授的；这些邮件是伪造的，但制作得非常精良。
在社交媒体上，一些使用人工智能生成头像的账号冒充网红，推广虚假的加密货币赠送活动。在佛罗里达州，一位母亲在接到一个描述事故的电话后，听到女儿的克隆声音，于是汇出了15.000万美元。恐慌与逼真的结合奏效了。
据分析的列表显示，深度伪造技术已经在暗网上以极低的价格实时提供：语音克隆仅需 30 美元起，视频克隆仅需 50 美元起。需要注意的是，这些广告本身可能就是针对其他犯罪分子的骗局，但传递的信息很明确：准入门槛低，任何人都可以使用相关工具。
如何在实践中保护自己
在你采取任何行动之前，先深呼吸。务必核实任何让你感到压力的信息或电话的来源。如果对方自称是家人，请通过其他已知渠道联系他们；如果是公司，请拨打其网站上的官方电话号码。提出只有对方才知道答案的具体问题，有助于识破冒名顶替者。
警惕社交媒体上那些诱人的优惠和可疑账户。不要通过电话或聊天分享个人信息或银行信息；避免从病毒视频、短链接或可疑网站下载文件、应用程序或程序。务必手动输入网址，并核实其是否为官方网址。
加强基础安全：使用强密码和唯一密码，配备密码管理器，启用双因素身份验证，及时更新系统，并采用具备网络保护和反钓鱼功能的可靠安全解决方案。在家和办公室持续进行安全培训至关重要。
如果您怀疑有人冒充银行，请使用银行的官方渠道。例如，像桑坦德银行这样的银行提供多种举报方式：将可疑电子邮件转发至[email protected]，发送短信至638 444 542，以及拨打客户服务热线915 123 123。在您的情况下，请务必咨询您银行的官方渠道。
网络钓鱼、爱情骗局和所谓的“猪屠宰”
诈骗分子利用人工智能创建虚假身份，与受害者进行长时间的对话，建立情感联系。几周后，他们会提供所谓的投资机会。他们利用建立起来的信任来消除受害者的疑虑，诱使其交出钱财。
如果你在网上认识的人向你借钱或提出投资建议，请果断采取行动：通过其他方式核实其身份，要求其线下提供证明，并拒绝任何紧急请求。与亲近的家人共同设置密码可以有效防止身份盗窃。
人工智能代理和聊天机器人：新的中介风险
如果来源尚未被标记为恶意网站，人工智能助手可能会犯错并推荐钓鱼网站。在一项实验中，浏览器代理将一封虚假的投资邮件误判为合法邮件，打开了欺诈页面，甚至还帮助用户输入了凭证。
在另一个案例中，一个人工智能网站生成器在几分钟内搭建了一个虚假的在线商店，一名代理人访问该商店购买手表，并在未经确认的情况下填写了保存在浏览器中的信用卡信息。这表明，如果权限不受限制，如今的代理人可以像互联网新手一样行事。
为避免这种情况，请认真评估聊天机器人的建议，限制访问权限（例如自动填充、购物、未经许可打开链接），并使用能够阻止恶意域名的安全解决方案保护您的浏览器。人工监督仍然至关重要。
人工智能生成的钓鱼网站：如何识别它们
忘掉过去那些笨拙的网站吧：现在你会看到HTTPS、Cookie通知和精美的设计。正因如此，仔细检查一番才显得尤为重要。首先，检查URL是否有拼写错误或特殊字符，并查看域名注册时间（WHOIS服务可以帮你做到这一点）。
第二，分析措辞：如果它让你感到恐惧、受到指责或被迫采取行动，那就是个不好的信号。第三，启用安全软件中的链接检查功能，并留意浏览器关于不安全连接的警告。最后，搜索网站名称，并将URL与官方网站进行比较；警惕赞助商提供的搜索结果，它们可能是钓鱼邮件。
- 类型或变体 域名、标题和内容。
- 年轻领域 或者有着一段晦涩难懂的历史。
- 操纵性语言 （恐惧、紧迫感、指责）。
- 浏览器警报 以及可疑证书。
人工智能如何加强对网络钓鱼的防御
人工智能也具有诸多优势。如今，能够实时分析电子邮件、URL 和附件的系统可以检测出虚假发件人、异常域名以及欺诈特有的语言模式。自然语言处理 (NLP) 可以识别操纵性的语气和可疑的结构，而计算机视觉则可以将网页设计与合法网站进行比较。
然而，现实情况是，这些模型需要持续的训练、高质量的数据和人工反馈，才能避免过时。有些模型会变成难以审计的黑箱，因此透明度和监督仍然至关重要。
人工智能如何助力网络钓鱼攻击
攻击者大规模生成模仿真实邮件语气和格式的电子邮件，包括同事姓名、职位和内部参考信息。他们结合域名抢注和大量创建虚假域名，托管近乎完美的仿冒邮件，这些邮件拥有有效的证书和响应式设计。
除了电子邮件，他们还会使用短信诈骗和移动平台上的虚假信息，这些信息伪装成来自你的银行或常用应用。在社交媒体上，人工智能生成的个人资料或盗用的账户会先建立信任，然后再上当受骗。一些故障的聊天机器人会进行自然对话，以此来窃取信息。
用于检测网络钓鱼的AI模型：其底层原理是什么？
一切都始于数据。我们收集并标记真实的钓鱼邮件和合法通信样本、恶意URL和网页内容。然后提取信号：链接结构、异常域名、典型的欺诈术语、电子邮件标头和元数据。
这些模型结合了监督学习、深度神经网络和自然语言处理技术，以理解信息的意图、紧急程度或是否被操纵。有些模型还融入了计算机视觉技术，用于分析屏幕截图或页面的视觉外观。
在生产环境中，分类是实时进行的：它能够阻止可疑活动、记录事件并从每次交互中学习。人工验证误报和确认威胁进一步改进了系统。它与 EDR、防火墙和入侵检测系统集成，为用户和组织构建了一个智能层。
安全培训和文化
单靠技术是不够的。意识和习惯至关重要：通过其他渠道进行验证、不分享敏感数据、检查链接、启用双因素身份验证、更新设备，以及在家和工作场所讨论这些风险。对能够设计和监控防御性人工智能模型的专业人员的需求正在迅速增长。
如果您有兴趣了解更多，可以寻找专门针对网络安全的人工智能应用课程，这些课程会培训您深度学习检测、自动响应和混合环境审计等方面的知识。面对同样在不断学习的对手，采取切实有效的持续方法才是制胜之道。
人工智能显然提高了欺骗和防御的门槛：从克隆语音和逼真的虚假商店，到能够检测人眼无法识别的模式的系统。多渠道验证、数字卫生、人工智能驱动的安全工具以及健康的怀疑精神相结合，才能让你在遇到可疑、过于紧急或好得令人难以置信的事情时，依然能够自信应对。
