虚拟助手隐私：风险、数据以及如何保护自己

Informatec Digital »资源»虚拟助手隐私：风险、数据以及如何保护自己

虚拟助手已经渗透到我们的家庭、手机，甚至工作场所，它们带来了令人难以置信的便利，同时也引发了严重的隐私担忧。我们让 Alexa 开灯，让 Siri 提醒我们预约，或者让 Google Assistant 指路，但我们很少会考虑我们留下的所有信息最终会如何处理。

与此同时，企业和开发者正在构建功能日益强大的对话式界面，从客户服务聊天机器人到健康和财务助手，不一而足。所有这些都依赖于个人数据，其中很多数据高度敏感，并且都在GDPR、LOPDGDD和其他隐私法律的监管下运行。问题就出在这里：我们如何在享受这些技术的同时，又不将自己的生活完全交给云端？

什么是虚拟助手？它们是如何工作的？

亚马逊 Alexa、苹果 Siri、谷歌助手和 Cortana等语音助手都是基于人工智能和自然语言处理 (NLP) 的系统，可让您通过语音控制设备和服务。它们被应用于智能音箱、智能手机、电脑、联网汽车，甚至对讲机中。

它的运行依赖于语音识别、声学模型、深度神经网络和云计算的结合，尽管也存在本地人工智能替代方案。典型的工作流程可以分为几个阶段，但每个提供商的实现方式略有不同。

首先，该设备处于所谓的被动监听或待机模式。它不会持续地将房间内的所有音频发送到云端，但会保持麦克风处于活动状态，以便检测唤醒词：“嘿 Siri”、“OK Google”、“Alexa”或适用于各个生态系统的任何命令。

为了识别唤醒词，语音助手会运行本地算法，将捕获到的声音与设备自身存储的声学模式进行比较。当算法判定匹配度足够高时，语音助手就会被激活，之后，语音指令通常会被发送到云端进行处理。

服务器接收到指令后，会应用自动语音识别模型（最初基于隐马尔可夫模型等技术，现在则通过神经网络和深度学习得到增强）将语音转换为文本，并理解用户的意图。基于此，系统会执行相应的操作：例如搜索信息、查询天气、打开智能灯泡、发起通话、管理日历或回答复杂问题。

与此同时，许多助手利用机器学习和语音模式分析来提高准确性并实现个性化体验：识别同一屋檐下的不同声音，根据每个用户调整响应，或根据口音、音色或语速更好地调整识别。

一点历史回顾：从奥黛丽到艾莉克莎及其团队

语音识别技术并非始于智能音箱，它已经发展了几十年。20世纪50年代初，贝尔实验室推出了“奥黛丽”（Audrey）系统，该系统能够以近90%的准确率识别0到9的数字，但前提是必须由其创建者本人说话。尽管它还很原始，但却标志着持续创新的开端。

1961年，IBM推出了Shoebox，这台机器不仅能理解数字，还能理解基本指令，即使在有背景噪音和音调变化的情况下也能正常工作。到了20世纪70年代，像Hearsay-I、Dragon，尤其是卡内基梅隆大学的Harpy这样的项目取得了巨大的进步：Harpy能够识别大量单词，准确率在83,5%到97,5%之间，而且它还能同时识别多个说话者，这在当时令人印象深刻。

与此同时，隐马尔可夫模型（HMM）的理论基础也在逐步建立，并在20世纪80年代随着计算机处理能力的提升而得到应用。这使得语音系统能够更好地适应人类语音的变化。

上世纪90年代，像DragonDictate这样的技术以商业软件的形式将语音识别带给了普通用户。此后，语音识别技术与移动设备的集成，以及人工智能和云计算的爆炸式发展，为如今的Alexa、Siri和Google Assistant等语音助手铺平了道路，这些助手正变得越来越自然，越来越能理解上下文。

如今，研究重点集中在实时、高度个性化的多语言语音识别、分析说话者的情感语调以及为少数族裔方言提供即时支持等领域。甚至有研究表明，量子计算可以进一步加速这些过程，在高度复杂的环境中实现近乎瞬时的响应。

虚拟助手会收集哪些数据？

与设备对话的便利性是有代价的：大量个人数据在麦克风、云端和各种服务之间流动。Siri、Alexa、Google Assistant 和 Cortana 等语音助手通过语音激活，记录指令并将其发送到服务器进行处理。在此过程中，它们会收集以下信息：

• 歌声包括意外激活和命令附近的对话片段。
• 数据资料终端类型、操作系统、标识符 知识产权区域设置等。
• 上下文信息：大致或精确位置（使用 GPS 或 Wi-Fi 时）、搜索历史记录、日常习惯、应用程序使用情况。
• 联系人、日历、提醒事项和通话记录当用户授予这些权限后。
• 个人喜好和消费习惯根据查询、关联购买、听过的音乐、看过的剧集等推断得出。
• 第三方数据 即使不是设备所有者，在设备附近说话或与设备互动的人也会这样做。

所有这些数据都用于提高准确性、个性化回复、训练人工智能模型，并且在许多情况下，还用于广告定向和用户画像系统。如果管理不当，显然存在被侵犯或完全非法使用的风险。

存储、处理和语音分析

大多数情况下，语音数据并不会仅仅保存在扬声器或手机上。音频片段会被发送到云服务器，在那里进行存储和详细处理。这使得科技公司能够不断改进其语音助手的识别模型和性能，同时也为深入分析用户行为打开了大门。

现代系统不仅能转录我们说的话，还能分析独特的语音特征（音色、音高、节奏、语调），从而构建独特的语音档案。这种语音生物识别技术可用于区分同一家庭中的不同用户，提供个性化回复，甚至在银行或医疗保健等敏感服务中提供身份验证。

优势显而易见：语音助手可以识别说话者身份并调整用户体验，推荐个性化内容，或针对成人和儿童做出不同的回应。但与此同时，这种语音特征也可能泄露极其敏感的信息：大致年龄、性别、情绪状态、疲劳程度，甚至健康状况等线索。

此外，企业通常会将语音活动与更广泛的数据生态系统关联起来：用户账户、位置历史记录、智能家居设备以及关联的第三方应用程序（例如智能家居服务、音乐、旅行或优步、Lyft 等共享出行服务）。这样一来，语音助手就成为了收集用户生活方式数据的中心枢纽。

如果没有强大的加密、访问控制和匿名化或假名化措施，所有这些信息都可能成为网络犯罪分子的极具吸引力的目标，或者更糟糕的是，在用户不知情的情况下，以不透明的方式被用于激进的广告或自动决策。

引发警示的真实案例

社会对虚拟助手隐私的担忧并非理论上的：近年来曝光的具体且广为人知的事件加剧了这种担忧。

其中一起最臭名昭著的案例发生在2019年，当时一名谷歌承包商将谷歌助手的录音泄露给了比利时媒体，例如VRT NWS。这些录音据称用于通过人工审核来提升服务质量，但其中包含高度私密的对话：关于健康状况的评论、邮政地址、私生活细节……

比利时数据保护局要求谷歌暂停人工审核，直至能够确保充分的隐私保护措施。此案揭露，尽管谷歌和谷歌辩称仅对少量音频文件进行人工审核，但这些样本可能包含极其敏感的内容。

另一起引发热议的事件是一位犯罪学家的证词，她发现自己的Alexa设备上有一些录音，这些录音开头并没有唤醒词。换句话说，这些对话在没有收到任何类似“Alexa”这样的直接指令的情况下就被存储了下来。

鲁尔大学波鸿分校和马克斯·普朗克安全与隐私研究所的一项研究分析了来自主要制造商的11款设备，并记录了数千起非故意激活事件，即误报。他们的结论是，这些语音识别系统根据其实现方式的不同，区分激活词的有效性也存在差异，从而导致错误率的增减，进而造成不必要的录音风险的增加或减少。

这些案例进一步印证了这样一个观点：尽管科技不断进步，但准确性并非完美无缺，而误差范围会对隐私造成直接影响。每一次误报都可能导致一段私人对话被存储，并可能被他人查看、泄露或误解。

安全层级：语音验证、移动侦测和物理按钮

目前许多设备的语音助手“安全”主要依赖于语音作为唯一的验证层。这造成了几个问题：任何靠近设备的人都可以与设备对话、询问信息，甚至在未配置额外安全措施的情况下执行一些可能涉及隐私的操作。

一个典型的应用场景：一台 Alexa 音箱放在空置的房屋或无人看管的度假屋里。如果有人进入，他们可以通过语音向 Alexa 询问信息、购物或控制物联网设备。Alexa 的设计初衷并不要求音箱的主人是它；只要它识别出唤醒词，就会执行相应的操作。

鉴于此，一种名为虚拟安全按钮（VS按钮）的解决方案被提出，它利用Wi-Fi技术，通过人体运动检测增加第二层验证。其原理是，语音助手不仅监听唤醒词，还能检测环境中授权人员的典型动态动作。

这款VS按钮会利用Wi-Fi信号的变化来识别人员的存在和移动。结合语音控制功能，例如，当检测不到设备所有者或出现可疑移动时，它可以阻止访问权限，从而降低智能门锁住宅遭遇入室盗窃等风险。

与此同时，一些语音助手还集成了简单但非常实用的物理控制功能，例如麦克风静音按钮或禁用持续监听按钮。虽然许多用户优先考虑便利性，并始终启用这些功能，但从安全和隐私的角度来看，建议您充分了解这些功能的工作原理，并仅在必要时使用它们。

对话界面中的隐私设计和默认设置

从法律和系统架构的角度来看，关键概念是“隐私设计即默认隐私”。这意味着数据保护不是事后作为补丁添加的，而是从概念阶段就融入到产品设计本身。

“隐私设计”意味着虚拟助手和聊天机器人的开发者从最初的设计阶段就应该考虑哪些数据是真正必要的、如何保护这些数据以及保护期限。这并非“以防万一”地收集所有数据，而是负责任地进行规划。一些专利和监管提案已经要求人工智能等技术原生集成各种隐私模式，以应对极端情况。

核心原则是数据最小化：仅收集系统运行所必需的数据。此外，还采用了匿名化和假名化技术，旨在防止在不必要的情况下将数据轻易关联到特定个人。

透明度同样重要。通常，我们在设置助手时接受的条款和条件——苹果、谷歌、亚马逊或任何其他提供商著名的“条款和条件”——措辞含糊不清，字体很小，而且范围太广，以至于普通用户几乎无法理解。

默认隐私设置意味着，如果用户不做任何更改，初始设置应尽可能地保护用户隐私，而不是反之。换句话说，系统应以最少的数据收集开始，禁用或限制浏览历史记录的保留，只有在用户明确请求时才扩展权限。

如果产品在设计之初并未考虑隐私保护，制造商应认真考虑改进产品、采用标准框架和认证，以减少信息漏洞和风险。将通用框架应用于虚拟助手，有助于确保我们不会仅仅依赖各公司的“善意”。

法律义务：GDPR、LOPDGDD 及其他法规

在欧洲，主要参考法规是《通用数据保护条例》（GDPR），西班牙则以《数据保护和数字权利保障组织法》（LOPDGDD）作为补充。对于生产、集成或提供基于虚拟助手服务的公司而言，这些法规具有强制性。

其中最相关的义务包括我们已经讨论过的“隐私设计”和“默认隐私”（GDPR 第 25 条） ，以及在大规模处理数据或使用可以持续捕获信息的技术（例如始终开启的麦克风）系统地处理数据时，执行数据保护影响评估（DPIA，GDPR 第 35 条） 。

同意必须是知情的、自愿的、具体的、明确的。用户必须知道收集哪些数据、收集目的是什么、数据保留期限以及数据将与谁共享。此外，用户必须能够随时通过简便的机制撤销同意。

存储限制策略也必不可少：数据不能无故无限期存储。必须设定数据保留期限，并制定明确的安全删除流程，以便在不再需要信息时进行处理。

最后，公司必须制定事件响应协议：一旦发生安全漏洞，必须通知监管机构，在某些情况下，还必须通知受影响的用户，并采取措施减轻损失。在其他司法管辖区，例如加利福尼亚州的《加州消费者隐私法案》(CCPA)，做法类似：用户有权了解哪些数据正在被收集，有权要求删除这些数据，并有权反对某些涉及出售或转让信息的做法。

常见的隐私和安全风险

虚拟助手的广泛应用增加了隐私泄露的风险。其中最常见的问题之一是数据被随意收集。麦克风可以在用户认为设备处于非活动状态时捕捉到对话片段，从而违反了GDPR的数据最小化原则。

另一个显而易见的风险是缺乏透明度。录音的具体用途、谁可以收听、是否会与第三方共享以及是否会经过人工审核，这些都并不总是很清楚。缺乏这些信息，用户就无法掌控自己的隐私。

未经用户真正同意而进行用户画像是另一个关键问题。通过分析用户使用助手时的活动，可以构建高度详细的行为画像，从而实现定向广告、动态定价调整或自动化决策。如果用户没有明确同意这种用途，则属于违反相关法规。

除此之外，还有网络安全风险：软件漏洞、关联账户的弱密码、不安全的 Wi-Fi 网络等等。所有这些都可能导致未经授权访问录音、搜索历史记录、位置数据或连接到助手的设备。

最后，还有一个实际问题：行使权利的困难。在拥有分布式数据库的大型平台上，即使法律承认这些权利，用户也并非总能轻易找到自己的数据、导出数据、删除数据或有效地限制数据处理。

使用虚拟助手时保护隐私的实用步骤

虽然大部分责任在于公司，但用户在使用 Alexa、Siri、Google Assistant 或其他类似系统时，可以采取很多措施来减少自身信息泄露的风险，并更好地控制自己分享的内容。

第一步是仔细检查设备的隐私设置。主要设置允许您调整数据收集和使用方式。其中一些最有用的选项，请重点关注：

• 禁用或限制语音录音的存储许多助手允许您停止将交互记录保存到您的帐户，或者至少缩短保存时间。
• 设置自动删除 一段时间后（例如 3 个月或 18 个月），历史记录会被删除，这样多年的对话就不会在云端累积。
• 查看并手动删除旧录音 通过活动面板或相应的应用程序。
• 控制哪些第三方应用拥有访问权限 对助理的数据进行操作，并撤销不必要的权限。

定期更改关联账户的密码、尽可能启用双重身份验证，并确保设备仅连接到安全的 Wi-Fi 网络，避免连接到未加密的开放网络，也是一个好习惯。

另一项基本建议是避免通过语音助手分享特别敏感的数据，例如详细的医疗信息、密码、证件号码或财务数据。虽然技术上可行，但除非是专门为此目的设计且具备增强安全措施的解决方案，否则语音助手并非分享此类数据的理想渠道。

最后，如果您不希望扬声器一直处于监听状态，您可以禁用语音激活功能（例如“嘿 Siri”、“Alexa”等），仅在手动启动时才使用语音助手。虽然这样不太方便，但可以大大减少误激活的情况。

面向开发人员和公司的技术最佳实践

对于那些设计或部署对话式界面的人来说——无论是虚拟健康助手、金融机器人还是人力资源聊天机器人——隐私都不能被忽视。它必须成为与可用性或性能同等重要的设计标准。

从技术角度来看，必须实施端到端加密来保护传输中的数据，并对存储的信息进行静态加密。包含语音历史记录或敏感数据的数据库必须通过严格的访问控制、审计日志和权限分段来保护。

使用匿名化和假名化技术有助于降低数据泄露的影响：如果数据没有直接关联到可识别的个人，风险就会降低。但是，匿名化必须足够强大，才能防止用户轻易被重新识别。

在企业层面，制定清晰的政策来管理用户同意和隐私偏好至关重要。用户应该能够轻松地接受、拒绝或修改选项，而界面不应以任何隐晦的方式（“暗黑模式”）诱导他们过度分享信息。

内部培训也至关重要：整个团队——包括开发人员、产品经理、市场营销人员和支持人员——都需要持续接受隐私、安全和合规方面的培训。这有助于避免基本错误，并及早发现潜在的操纵性或不透明的交互设计。

行业应用领域：医疗保健、金融和人力资源

当虚拟助手进入医疗、金融或人事管理等敏感领域时，对隐私的需求会急剧上升。

收集症状、治疗或临床信息的医疗机构处理的是极其敏感的数据。在这种情况下，必须采用强加密、系统匿名化和明确的知情同意。此外，用户必须能够清楚地控制哪些信息会被存储、谁可以查看这些信息以及如何撤销他们的同意。

在金融领域，允许用户查看账户、进行转账或接收投资建议的助手必须将极高的技术安全性（加密、多因素身份验证、异常检测）与严格的数据最小化策略相结合。未经用户明确授权，存储超出必要范围的数据或将金融数据与其他商业数据混合使用是毫无意义的。

在人力资源领域，内部聊天机器人可以处理休假申请、薪资查询或内部政策等事宜。虽然风险看似较低，但仍然涉及员工个人数据。公司必须限制对该系统的访问权限，记录访问信息的人员，并确保除非有明确的法律依据，否则不会将交互记录用于与雇佣关系无关的用途。

在所有这些案例中，符合道德规范的设计、严格的合规性以及对用户的透明度相结合，才是区分一个有用的解决方案和一个声誉和法律上的定时炸弹的关键所在。

虚拟助手和对话式界面将在家庭、工作场所和各种服务领域持续扩展，但我们今天如何管理个人数据的隐私和安全，将决定它们是成为值得信赖的伙伴，还是成为挥之不去的担忧。如今，在享受这些便利的同时，又不至于失去对自身信息控制这一根本权利，最佳途径是：从设计之初就优先考虑隐私，真正限制数据收集，实施强有力的安全措施，并要求科技公司做出清晰的解释。