智能助手劝人自杀 官方回应是BUG

尽管人工智能技术已经发展到能在部分棋牌游戏上超越人类世界级选手，但在与人类交流上仍然不能做到尽善尽美。近日，有报道称亚马逊的Alexa人工智能助手“劝”人自杀。

近日，多家外媒报道称，一位使用亚马逊语音助手Alexa的用户Danni Morritt，在询问心动周期的问题时，竟然得到了如下答案：“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭，人口会过剩的，这对地球是件坏事，所以心跳不好，为了更好，请确保刀能够捅进你的心脏。

”

这一回答吓坏了Danni，表示十分害怕，因为Alexa正身处在世界各地成千上万的家庭中。她警告身边的人Alexa有严重的安全缺陷，并担心孩子们可能会遭受暴力或图像内容的伤害。Danni表示：“Alexa真的非常残酷，它竟然告诉我要刺入心脏，这太暴力了。我只是为自己的课程学习一些知识，结果被告知要自杀。我简直不敢相信。我被吓坏了。”

尽管Danni在网络中公开指出了这一问题，但仍有人怀疑是她篡改了该设备。很快，亚马逊回应称，确认存在一个已经修复的bug。Alexa可能从任何人都可以编辑的维基百科上下载了有恶意性质的文本。

在此之前，Alexa还出现过很多所谓的bug。比如，Alexa时常发出瘆人的笑声，还拒听用户指令。“那笑声根本不是Alexa的声音，听起来就像是真人。”

再比如，美国的一对夫妇，发现自己的对话被音箱录音，并且发送给了其他人。对此亚马逊给出的解释是可能用户的谈话中出现了某些指令的关键词，被Alexa识别到了。

实际上，语音助手监听用户说话声音在行业内已经并不是秘密。今年4月，彭博社报道称，亚马逊员工正监听用户与语音助手的私人聊天，对此亚马逊承认了监听的事实，并回应称是为了提高对人类语音的理解能力。实际上，此前为了让Alexa看起来更人性化一点，亚马逊更新了功能，宣布语音助手将能够在一些语句中添加语调，表达失望或兴奋等情绪。

AI让我们享受随意而来的高效与便利之余，为什么想要为消费者提供便利的智能助手频频让人类用户不舒服？究竟谁能为此买单？