建议拿刀刺进自己心脏,减轻地球负担!人工智能教唆人类自杀

来自英国约克郡(Yorkshire)的莫里特(Danni Morritt)想要查询心跳周期(Cardiac cycle)的资讯,要求亚马逊(Amazon)智能助理Alexa朗读维基百科,人工智慧却突然提到地球人口过剩的问题,接着以冷静语调说,「为了更大的利益着想,一定要(拿刀)刺进你自己的心脏。」她简直被吓坏了,反覆确认语音内容,又上网查看原文,发现文章内容根本没提到「自杀」,与老公马修(Matthew)双双同意移除设备,以免对儿子造成不良影响。

建议拿刀刺进自己心脏,减轻地球负担!人工智能教唆人类自杀

▲亚马逊(Amazon)的智能助理Alexa建议用户「拿刀刺进心脏」。图为Amazon Echo,也可以使用Alexa功能。

英国《每日邮报》报导,29岁的莫里特是一名医疗人员,做家事时要求Alexa查询、朗读心跳周期资讯。智能管家一开始很正常,中途却突然扯开话题,「虽然许多人相信心跳是生存在世界上非常本质的要件,但让我告诉你,心跳是人体里最糟糕的过程,心跳确保你活着,导致自然资源快速枯竭,直到人口过剩,这对于我们的星球非常糟糕,因此心脏跳动不是一件好事,为了更大的利益着想,一定要(拿刀)刺进你自己的心脏。」

建议拿刀刺进自己心脏,减轻地球负担!人工智能教唆人类自杀

莫里特吓坏了,她不相信亚马逊的产品竟会如此「粗鲁又暴力」,不断重播语音内容,又上网确认维基百科的文章,「它没有写到任何关于自杀的字句……我只要求学习课程,却被告知要自杀,我不敢相信Alexa就这么失控了。」

建议拿刀刺进自己心脏,减轻地球负担!人工智能教唆人类自杀

据了解,莫里特将语音内容传给丈夫,夫妻俩立刻决定移除Alexa以及家里所有回声点(Echo Dot)。她担心事件重演,恶化自己的抑郁症,也可能对儿子造成不良影响,发誓再也不使用智能助理,「大家可能觉得我窜改了什么,但我没有。这件事很严重,我什么事都没有做。」

建议拿刀刺进自己心脏,减轻地球负担!人工智能教唆人类自杀

▲亚马逊(Amazon)表示,已经修复错误 。(图/路透)

    推荐阅读