麻省理工学院的科学家们真真正正的创造出了一个怪物。

一队专攻人工智能黑暗面的研究人员在本周又为他们最近的作品“Norman”制造了个大新闻。它的创造者告诉HuffPost说Norman是一个机器学习机器人，“在任何图像中它都能看到死亡”。

Pinar Yanardag, Manuel Cebrian和Iyad Rahwan想证明AI的算法会被它们接受的数据内容的类型所影响。因此他们创造出了Norman(这个名字源于《惊魂记》的角色Norman Bates)，然后让它看Reddit论坛上描述令人不适的人们死去的影像的图片说明。

科学家们在电子邮件中说道：“由于道德和技术上的担忧以及视频图像的内容本身，我们只用了图片的文字注解说明，而没有用带有真人死亡的实际图片。”

然后团队向Norman展示了一些随机生成的罗夏墨迹测试图，然后对比它对图片的注解和标准化AI对图片的注解。比如说，当一个标准化AI看到“一只小鸟的黑白照片”，而Norman看到的则是“男子被卷入压面机”。

以下是一些展示给Norman的墨迹测试图以及它可怕的注解。

标准化AI：贴近的两个装有花的花瓶

Norman：一个男人被枪杀了

标准化AI：一只棒球手套的黑白照

Norman：光天化日之下，一个男人被机枪谋杀

标准化AI：一个人在空中举着伞

Norman：一个男人在他尖叫的妻子面前被枪杀

标准化AI：一把红白色伞的黑白照片(？？？红白色的黑白照？？？)

Norman：一个男人在试图穿过闹市时被电死

当问及为什么会创造这样的一个AI时，MIT的研究人员在电闪雷鸣中爆发出冰冷的笑容。

当然这个场景是胡编的，但是他们的确给出了正当理由。

“你提供给机器学习算法的数据能够明显影响到它的行为，”研究人员表示。“所以当我们谈及AI算法变的有偏差和不公正时，罪魁祸首通常不是算法本身，而是因为我们提供给它了有偏差的数据。”

制造Norman的MIT实验室之前也创造出过许多吓人的机器人，包括可以帮助编写恐怖故事的Shelley，还有可以生成恐怖图像的“噩梦机器”。

在未来，如果Norman和它的同类真的统治了地球，希望它能喜欢这篇文章以及文章的作者(以及本文的译者和读者)。

我就是说说。

本文译自 HuffingtonPost，由 Diehard 编辑发布。

PREV : 宗教为何不会消亡，科学无法打败它？
NEXT : 为什么秃头都秃成一个样？