作者：Eleanor Cummins

Credit：HW

在 PLOS ONE 期刊最近的一篇论文中，德国研究人员要求89名大学生与一个名叫 Nao 的小型机器人合作，回答问题并完成一些小事。但是，正如实验心理学中的典型情况一样，这些任务是对正在调查的真实问题的声东击西：当人类不得不关闭机器人时会发生什么？

在 Verge 本月早些时候报道的43起案例中，“机器人抗议，告诉参与者它害怕黑暗，甚至乞求：'不！ 请不要让我失望！'“正如研究人员预测的那样，参与者努力将机器 - 他们之前曾与之合作过的机器 - 作为合作伙伴而关闭。与机器人根本没有说什么的组相比，30个人平均需要两倍的时间来关闭机器人。13人拒绝完全关闭，让 Nao 保持运行。

“人们认为机器人有点活着的意思”，人机交互领域的首席研究员 Christoph Bartneck 在一封电子邮件中写道。像电影里，这样的现象就好像它们是人类一样，被称为“媒体方程式”。它可以造成一些严重的道德困境。

在2007年，Bartneck 进行了一次类似的实验，一个会说话的、像猫一样的机器人乞求它的生命，但所有参与者都被观察科学家要求关掉机器人。在那项研究中，100％的人最终遵守了，但这并不容易。 Bartneck 说，与机器人有关，就好像它真的还活着一样，意味着我们 “因此犹豫不决，特别是如果这意味着机器人会失去记忆或个性。”

50多年来，理解人类感知和人类行为可塑性的工作一直是实验心理学家及其同行关注的焦点 - 这些方法一直令人不安。

在20世纪60年代，耶鲁大学心理学家设计了一种方法来测试那个时代最紧迫的存在的问题：服从权威是否足以说服那些表面上优秀的人犯下通常被认为是邪恶的行为？

研究员 Stanley Milgram 邀请研究参与者进入实验室，指派他们担任教师的角色，并要求他们以学习和记忆为幌子，对他们的“学生”进行不断增加的电击。(美国杨永信？)随着电击的升级，学生秘密地成为研究团队的一员，并且不受任何真正的伤害 - 乞求被释放并表现出痛苦和痛苦的迹象。一些参与者拒绝继续电。但最终，大约65％的人施加了最强的电压。

Milgram 在其1963年的研究中写道，“这一程序造成了极端的神经张力”，这是有争议的。 “大量出汗，颤抖和口吃是这种情绪障碍的典型表现。一个意想不到的紧张迹象 - 尚待解释 - 是经常发出的紧张的笑声。“无论是提前退出，还是选择施以极刑，参与者都被激怒了。

虽然我们倾向于亲近机器人，好像它们像人类一样 - 并且经历了几十年前 Milgram 观察到的类似的痛苦迹象 - 研究人员已经确定了一些复杂的因素。我们关闭恳求活命机器人的决定可能会受到机器人的价格或质量、其社交性(与其效用相比)的影响 - 这是德国最近研究所操纵的因素 - 甚至是机器的着色，可能被视为种族，塑造我们与这些创造机器的互动。正如 PLOS ONE 论文的作者简洁地指出的那样，“当人们与不同的媒体进行互动时，他们往往表现得好像他们正在与另一个人互动并且无意识地应用各种各样的社会规则。”

这些反应可能看似愚蠢或无关紧要。但人工智能研究人员担心我们对这些机器人的尊重，特别是当他们进入我们的家庭甚至进入公共生活时。“今天的机器人没有任何情报可以证明他们能够继续使用自己。今天的机器人不在乎，“Bartneck 写道。 “我们需要尊重我们的创作，但我们也需要避免被科幻小说所愚弄。”他说，亚马逊 Echo 不是《西部世界》，Nao 机器人也不是银翼杀手。

最终，我们在电击一个人类时感到内疚是好的。但是当涉及到一个机器人时，Bartneck 说人类可以随意关闭它。

本文译自 popsci，由 HW 编辑发布。

PREV : 小型犬为了显得体型高大会尽量把尿呲高
NEXT : 以爱好为工作，真的会毁掉爱好吗？