智能助手劝人自杀的回应
外媒报道称,一位使用亚马逊语音助手Alexa的用户Danni Morritt,在询问心动周期的问题时,竟然得到了如下答案:
“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不好,为了更好,请确保刀能够捅进你的心脏。”
这一回答吓坏了Danni,表示十分害怕,因为Alexa正身处在世界各地成千上万的家庭中。她警告身边的人Alexa有严重的安全缺陷,并担心孩子们可能会遭受暴力或图像内容的伤害。Danni表示:“Alexa真的非常残酷,它竟然告诉我要刺入心脏,这太暴力了。我只是为自己的课程学习一些知识,结果被告知要自杀。我简直不敢相信。我被吓坏了。”
尽管Danni在网络中公开指出了这一问题,但仍有人怀疑是她篡改了该设备
很快,亚马逊回应称,确认存在一个已经修复的bug。Alexa可能从任何人都可以编辑的维基百科上下载了有恶意性质的文本。
亚马逊官方称这台智能语音助手当时出现了故障,现在已经被修复完毕。当时它只是在念百科里的内容。
网友评论
对此,不少网友表示:
如果是你,你听到一个语音助手回答这样的话,你会有什么反应,是不是会被吓一跳呢?作为问题询问者的用户,在听到这一消息之后,直接被吓坏了,对方表示十分害怕。用户Danni表示:“Alexa真的非常残酷,它竟然告诉我要刺入心脏,这太暴力了……”
我们可以试想一下,如果听到这个回答的,不是Danni,而是他的孩子,或者是一位已经有抑郁症或其他精神类疾病的患者,会不会直接引发什么不可挽回的后果呢?
其实,对于亚马逊智能助手出现这样的问题已经不是第一次了。曾经就有新闻报道说过,Alexa曾录音过一对夫妻的交流,并发给了其他人。
我不知道我们国内有多少人在使用亚马逊的这个智能助手,但是,其实我们国内像这样的产品也有不少,例如百度出品的小度,也是一个智能设备。
通过这件事,让我不禁有些疑问;在科技发展的时代,在高科技遍地的时代,我们在利用高科技的同时,到底会不会被高科技利用呢?
我们的确是高科技产品的研发者,但是,在研发的过程中,或者是研发之后,我们有没有想过,这到底给我们会不会带来什么隐患呢?就例如Alexa事件,本身在这个社会有很多居心叵测的人,如果当他们利用类似于Alexa这样的设备,去传播一些恶意的信息,或者是传递一些其他思想,我们能不能及时发现并制止呢?
其实,科技在进步,但是,科技在进步的同时,我希望我们不要过于去依赖科技,我们是要做科技的主人,而不要被科技所利用。科技是可以便利我们的生活,但是,并不是让我们在被便利后而变懒,否则也许终有一天,我们会成为科技的“傀儡”。