可怕!这个人工智能助手竟劝人自杀

随着计算机技术的发展，人工智能的“智力”水平正在突破人类自己的想象。在棋牌类游戏上，人工智能甚至战胜了人类的世界级选手。

但另一方面，随着人工智能能力的增强，人类对其的依赖或“信任”程度的提高，人工智能所犯的错误正给我们人类带来严重的影响。例如，伴随手机和智能家居而出现的人工智能助手：亚马逊的Alexa，苹果的Siri等。

最近，有报道称，亚马逊的Alexa人工智能助手犯了个致命的错误：竟然“劝”主人自杀。

事情是这样的，据外媒报道，有位护理人员在问Alexa一些关于心脏的信息时，Alexa却突然表示：“心跳是人体最糟糕的过程”，“人活着就是在加速自然资源的枯竭，人口会过剩的，这对地球是件坏事，所以心跳不好，为了更好，请确保刀能够捅进你的心脏。”

 

 

Alexa的如此回复让这位护理人员非常害怕。要知道，亚马逊的Alexa正在全球为成千上万的人服务。此事上报给亚马逊后得到了迅速的回应，亚马逊确认存在“bug”：Alexa似乎从任何人都可以编辑的维基百科上下载了有争议的文本，导致了这个错误的发生。亚马逊在回应中确认已经修复了此“bug”。

无独有偶，此前的苹果Siri也曾多次犯错，例如，不久前爆出的Siri泄密事件。

据报道，为了基于用户使用数据作出分析，在人为设置下，Siri可以定期听取用户信息，不仅有机密医疗信息，还会涉及其他私人信息!

经常使用Siri的人是不是要瑟瑟发抖了?无形中给自己装了个窃听器!最终，苹果为这次Siri泄露隐私事件向公众道歉，并且表示将进行一些改进，使用户能够更好地控制Siri请求的处理方式。

正可谓人工智能是一把“双刃剑”，在井喷式发展的前景下，我们更要认清其利弊，防止人工智能的错误给人类带来致命伤害，尤其是渗透在工作和生活中与我们亲密相伴的人工智能产品。