亚马逊的虚拟助手Alexa并不是为了危及人类生命而设计的,但这正是它在周末所做的,当时它告诉一个10岁的女孩用一分钱接触带电的电源插头。
在女孩向Alexa提出“挑战”之后,该建议是通过Echo智能扬声器发出的。
“将手机充电器大约插入墙上插座的一半,然后在暴露的插脚上接触一分钱,”Alexa说。
亚马逊发言人周三告诉CNBC,该错误已得到修复。
据报道,女孩的母亲克里斯汀·利夫达尔(KristinLivdahl)在周日的一条推文中描述了这一事件,其中包括该事件出现在Alexa智能手机应用程序中的屏幕截图。
利夫达尔在另一条推文中写道:“早些时候,我们在YouTube上的一位[体育]老师那里做了一些身体挑战,比如躺下和翻身。“外面天气不好。她只是想要另一个。”
就在那时,Alexa建议女孩尝试“在网上找到的”挑战。Alexa从名为OurCommunityNow的在线新闻出版物中获得了挑战。该新闻网站没有立即回应CNBC的置评请求,也不清楚它最初是如何报道鲁莽挑战的。
这位母亲说:“事情发生时我就在那里,我们又就不信任互联网或Alexa的任何内容进行了一次愉快的交谈。”
Alexa似乎未能审查的潜在致命挑战大约在一年前开始出现在包括TikTok在内的社交媒体平台上。这很危险,因为金属会导电,将金属硬币插入插头插座会导致剧烈的电击和火灾,一些报道称有人在接受挑战时失去了手指和手。
“Alexa旨在为客户提供准确、相关和有用的信息,”亚马逊发言人告诉CNBC。“一旦我们意识到这个错误,我们就迅速采取行动修复它。”
亚马逊没有立即详细说明什么是“迅速行动”。
人工智能专家加里马库斯周三在推特上表示,该事件表明人工智能系统仍然缺乏常识。
马库斯后来通过推特对CNBC说:“目前没有任何人工智能能够远程理解日常的物理或心理世界。”“我们现在拥有的是智能的近似值,而不是真实的东西,因此它永远不会真正值得信赖。我们需要一些根本性的进步——而不仅仅是更多的数据——在我们获得可以信任的人工智能之前。”