隐私被肆意侵犯！Alexa可能是一个隐藏着窃听装置的间谍

这周，我再次翻开之前我写过的关于Alexa的所有文章，整个过程感觉不错，有点像读一本旧日记。但是我突然想起我私下里告诉Alexa的东西都存储在亚马逊的服务器上，而且可能被亚马逊的员工浏览过，我的心里升起一丝异样。关于这个疑问其实存在已久，但是公司一直在说，这一切都是为了让Alexa变得更好。然而，对很多人来说，在这种看似私人的语音指令互动方式下，很多用户隐私信息却被亚马逊掌握，这跟监视并没有什么明显的不同。所以很多人说，Alexa或许就是一个隐藏在所谓语音助手外衣下的窃听间谍。

关于Alexa是否在监视用户的争论已经持续多年，而且目前看来这个疑问不会很快消失。隐私倡导者已经向联邦贸易委员会(FTC)提起诉讼，指控这些设备违反了联邦窃听法。记者们也对这些人工智能语音助手使用中潜藏的一些危机进行了调查分析，像我这样持怀疑态度的科技博客记着普遍认为，这些东西比人们意识到的更强大，而且侵犯了太多隐私。最近有关亚马逊员工是如何审查某些Alexa命令的新闻报道表明，情况比我们想象的还要糟糕。

一开始，我就觉得像Alexa和其他类型的语音助手注定会监视它的用户，因为这就是这个系统的设计初衷。这些系统依赖于机器学习和人工智能，随着时间的推移，即使它们看起来很完美了，但是由于技术的限制，隐私保护始终是一个难题。在这个数据为王的时代，这些掌握了大量数据的科技公司也在不断地思考利用用户数据牟利的方法。当不完善的技术与拥有强大控制权的企业发生相遇，政府对其中存在的问题也是有心无力，因此监管似乎是一个不可能的解决方案。

当然，现实也不是完全那么可怕。如果我们更密切地关注正在发生的事情，你会发现这项技术未来的发展前景可观，当然也相当复杂。

难以避免的语音助手被无数次”错误“激活

Alexa或其他语音助手的一个基本问题是，他们可能并没有我们想象的那么听话。像Echo这样的设备配备了一直开着的麦克风，你以为只有当你想让它们听的时候他才能录音，事实却并不一定如此。就像亚马逊的语音助手需要按下物理按钮才能召唤Alexa，但许多设备的设计是在你说了“唤醒”这个词后就会开始记录你。但是，相信任何使用过Alexa的人都知道实际上它并不总是这样工作的。有时，仅仅是听到随机噪音，如果Alexa认为这是唤醒词，就会开始录音。

当我开始阅读亚马逊网站上Alexa命令的历史记录时，误报问题的严重程度变得非常明显。虽然大多数条目都很无聊，比如:“嘿，Alexa”、“给我看看煎蛋卷食谱”、“最近怎么样?”但在这些平淡无奇的信息中，也散布着一系列令人生畏的信息:“文本不可用（备注：音频不是为Alexa准备的）”每次看到它，我都会再看两遍，然后在脑海里大声念出来:“音频不是为Alexa准备的。”“这些是Alexa听到的但不却是不应该听到的东西，这些命令已经被发送到亚马逊的服务器，然后又被发送回来，因为这台机器认为没有说唤醒词，或者Alexa在用户没有发出命令时录制了音频。换句话说，这些语音信息是被错误的接收了。

从表面上看，语音助手拾取杂讯是这项技术不可避免的缺陷。一个高度复杂且聪明的计算机程序可以理解你说的任何东西，虽然它隐藏在一个非常简单的程序后面，这个程序经过训练，可以听到一个叫醒词，然后把后面的命令发送给那个更聪明的计算机。但问题是前面这个简单的程序经常不能正常工作，而且人们并不总是会注意到房间里有录音设备。这就是为什么经常会出现一些关于录音的尴尬事件，比如俄勒冈州的一对夫妇，他们不小心让语音助手把一整段对话的录音发给了一个熟人。亚马逊自己也在努力改进，以降低错误率，但很难想象这个系统未来会有多么完美无缺。

电子前沿基金会(EFF)的技术项目总监杰里米·吉卢拉(Jeremy Gillula)博士告诉我:“当你家里有一个麦克风，但是你却无法准确掌控它何时会被激活去监听你的生活，那是多么可怕的一件事。从隐私的角度来看，这是有问题的。”

每当这种事情的发生时有的人仅仅认为这是运气不好，但事实上它比大多数人想象的要更常见。不过，可能比故障更细思极恐的是幕后的一些工作流程，它向陌生人展示了用户与语音助手的交互内容。彭博社(Bloomberg)最近报道称，亚马逊的一组员工可以访问Alexa用户的地理坐标，官方解释收集这些数据是为了提高语音助手的能力。就在几周前，彭博社(Bloomberg)还报道称，亚马逊(Amazon)在全球雇佣了数千名员工，分析用户的Alexa命令来训练该软件。他们会无意中会了解到很多个人隐私场景，有时候，亚马逊的员工还会取笑人们说的话。

亚马逊对这些报道进行了猛烈回击。一位公司发言人告诉我，亚马逊只标注了“来自一组随机客户的极少量互动，以改善客户体验”。这些录音被保存在一个使用多因素身份验证的受保护系统中，以便“有限数量”的受到严密监控的员工才能够访问。但彭博社表示，这个所谓“有限数量且被严密监控”的团队人数达已经达到了数千。

确实，对于Alexa和其他人工智能语音助手的工作，一些来自人类的审查是必要的。这种审查可以防止将来出现错误，并不断优化功能。亚马逊也不是唯一一家使用人类员工来查看语音命令的公司。谷歌和苹果还雇佣了一些人来审查用户对语音助手说了什么，以训练软件更好地理解用户，并开发新功能。显然，这些参杂在计算机服务中的人为因素让人想想是挺毛骨悚然的，但它也是这些技术开发的一个重要部分。

卡内基梅隆大学(Carnegie Mellon University)计算机科学家亚历克斯·鲁迪尼基(Alex Rudnicky)博士在接受采访时说，“最终，对于那些在计算机应用中出现的问题，我们还是需要一个人类来处理。”自上世纪80年代以来，鲁迪尼基一直在开发语音识别软件，并领导团队参加了Alexa奖(由亚马逊赞助的人工智能对话竞赛)。他坚持认为人类是提高自然语言处理能力的必要条件，而且鲁迪尼基也相信，对于这些语音指令信息的监控不太可能追溯到一个人，所以大家不必过于紧张。

鲁迪尼基说：“如果你是1000万用户中的一一个，那么很难有人会根据这些内容追溯到你身上，发现一些关于你个人的不想让别人知道的事情。”

然而，对我来说这个想法似乎比让一个陌生人阅读你的日常想法或了解你的地理位置历史感觉一样毛骨悚然。语音助手偶然录下我的声音可能并不常见，但系统似乎还不够智能，无法100%准确地唤醒我。而且亚马逊会将它所收集到的所有关于Alexa的录音编入目录并提供给用户，这让我感觉很糟糕。

没有企业真正为用户的隐私问题着想

在最近的谈话中，六名技术和隐私专家告诉我，我们需要更强有力的隐私技术来解决Alexa的一些问题。Echo收集的个人数据数量受亚马逊设定的条款限制，而美国缺乏强有力的联邦隐私立法，比如欧洲的《一般数据保护条例》(General data Protection Regulation，简称GDPR)。换句话说，正在开发语音助手的公司或多或少也正在制定规则。

所以我发现自己又回到了几个问题上。谁来照顾用户的感受?为什么我不能选择让Amazon记录我的命令，而不是费力地通过隐私设置寻找停止向Amazon发送数据的方法呢?为什么我的选择有限?

在Alexa隐私设置中，你可以选择不让亚马逊使用你的录音来开发新功能和改进转录，然而你不能选择不允许亚马逊保留您的录音用于其他目的。

这样的设置看似让用户有权利保护自己的隐私。但是如果他们真的完全为用户着想，为什么这些公司不能完全匿名地让我与语音助手进行互动?

苹果似乎正试图这么做。无论你什么时候和Siri通话，这些命令在发送到公司之前都会被加密，并附带一个随机的Siri标识符。你的Siri标识符与你的苹果ID没有关联，所以你无法打开iPhone上的隐私设置，查看你对Siri说了什么。并不是所有的Siri功能都要求你的设备向苹果的服务器发送信息，这样就减少了曝光率。苹果确实使用Siri命令的录音来训练软件，因为你人工智能软件必须经过训练才能使它变得更好。苹果没有将特定的命令与特定的用户联系起来，这或许可以解释为什么这么多人认为Siri很糟糕。话又说回来，Siri可能是你在语音助手中能让你获得隐私的最佳选择。

在这场辩论中，蒂姆?库克(Tim Cook)想提醒大家，苹果不是一家数据公司。他说，谷歌和亚马逊(Amazon)等公司会把你的个人数据变成产品，然后卖给广告商，或者用来卖给你更多东西。今年早些时候，这位苹果首席执行官在《时代》杂志(Time)专栏撰文，宣布了推动联邦隐私立法的计划。

这个想法开始得到一些支持。今年1月，政府问责局发布了一份报告，呼吁国会通过全面的互联网隐私立法。这份报告加入了隐私权倡导者的行列，他们长期以来一直主张，美国需要自己版本的GDPR。今年3月，参议院司法委员会听取了几位推动联邦隐私立法的人士的证词。然而，目前还不清楚国会是否会就此采取行动。

华盛顿大学(University of Washington)电气工程学教授、语音技术专家玛丽·奥斯坦多夫(Mari Ostendorf)博士说，“语音技术已经变得如此先进，现在的隐私问题是时候提上日程了。不过我认为，企业可能比美国政府更关心这个问题。”

人们希望亚马逊至少重新考虑一下它在隐私和语音助手方面的做法。而现在普通大众也仅仅是触及到一些隐私被侵犯的表面现象。比如像Echo这样的设备在未经我们允许的情况下记录我们的生活或与陌生人分享我们的个人数据的，以及为什么Alexa拥有一个永远开着的麦克风，这些都仅仅这一场彻头彻尾的隐私侵犯噩梦的表面。

问题在于，这些采用数据驱动业务模型的公司有太多的利益动机收集尽可能多的用户信息。例如，每次你使用Alexa，亚马逊就能更清晰地看到你的兴趣和行为。当我询问亚马逊如何使用这些数据时，该公司给了我一个奇怪的例子。

亚马逊的发言人说：“如果客户使用Alexa购买商品或与其他亚马逊服务交互,我们会记录下他的兴趣。当用户再次浏览我们的网站或我们任何APP,这些地方将会为特定的用户提供产品的建议。”

有证据表明，这些建议在未来可能会变得无比智能和精确。亚马逊拥有专利技术，可以根据你的语气和音量来解读你的情绪。根据这项专利，这种虚拟版的Alexa类似技术可以辨别你是开心还是悲伤，并提供“针对性很强的音频建议，比如音频广告或促销活动”。

可怕的未来世界

一个没有政府监管的语音助手的未来是可怕的。最近，我与卡内基梅隆大学(Carnegie Mellon)的计算机科学教授诺曼·萨德尔(Norman Sadeh)博士进行了交谈。

Sadeh解释说:“在一天结束的时候，不管白天的环境多么复杂，在晚上都会回到一个单一的用户环境。这时，亚马逊就可以使用语音识别功能来辨认你。它可能会建立非常广泛的个人资料，包括你是谁、你做什么、你的习惯是什么，以及你不一定想要向他们透露的所有其他个人信息。”

他建议亚马逊可以利用这一点来做生意，通过你的声音就知道你是谁，你喜欢什么。不像大多数反乌托邦的观点，面部识别可以做到的事情，语音识别可也以做到，它不需要看到你，它可以通过电话线工作。在未来，连接互联网的麦克风会越来越多的出现在房间里，而且这些系统可以一直监听。与我交谈过的几位研究人员提出了这个反乌托邦的想法，并对这个即将到来的未来世界表示遗憾。

到目前为止，这样的系统还只是假设，但如果你仔细想想，所有的部分都已经就位了。在全国各地，无论是在家里还是在公共场所，都有数以千万计的设备上始终安装着麦克风。他们被允许在特定的时间听和录下我们说的话。没有任何政府的监督，谁知道这个系统会如何发展。

我们想要一个更光明的未来，不是吗?在90年代，和电脑交谈似乎是一件很酷的事情，这绝对是杰森一家生活方式的重要组成部分。但到目前为止，似乎一个不可避免的事实是，Alexa和其他语音助手肯定会监视我们，不管我们喜欢与否。在某种程度上，这项技术的设计方式导致这样的结果似乎无法避免的，在未来，如果没有监督，它可能会变得更糟。

或许盲目地相信亚马逊和其他语音助手公司真的担心隐私问题是很愚蠢。但也许他们真的在努力解决这项容易出错的技术带来的问题，也许他们真的很在乎人们发现Echo这样的设备正在监听他们生活时产生的焦虑感，并在尝试解决这个问题。

不可避免的是，语音电脑的未来不必如此反乌托邦。如果每个人都认同科技的实现方式，那么与电子设备的交流将从最深刻的角度改变我们与科技互动的方式。只是现在，情况似乎并非如此。