1964年至1966年间，麻省理工学院人工智能实验室的德裔计算机科学家约瑟夫·维岑鲍姆(Joseph Weizenbaum)开发出有史以来第一款聊天机器人。

尽管当时已存在基本的数字语言生成器(可以输出连贯文本行的程序)，但维岑鲍姆的聊天机器人是首个明确被设计用来与人互动的程序。用户键入自然的语句，按Enter键，机器响应。如魏曾鲍姆的解释，他的程序使“人与计算机之间的某些自然语言对话成为可能”。

程序的名字叫Eliza Doolittle，来自乔治·伯纳德·萧George Bernard Shaw(也就是著名的萧伯纳)的作品Pygmalion《卖花女》中的角色。维岑鲍姆使用一种被称为MAD-SLIP的编程语言，运行在36位IBM 7094(早期的晶体管大型计算机)上。

由于计算时间是宝贵的资源，因此Eliza只能通过分时系统运行；用户通过电动打字机和打印机与程序进行远程交互。当用户键入一个句子并按Enter键时，消息被发送到伺服系统。 Eliza扫描了邮件中是否存在关键字，并在新句子中使用了该关键字以形成响应。响应返回，打印给用户。

为了鼓励对话，维岑鲍姆在设计中，令Eliza模拟罗杰式心理分析人员所使用的对话风格。如下面的示例(请注意该程序如何使用“男朋友”和“沮丧”之类的关键字。)：

人：男人都一个德行。

电脑：怎么说？

人：他们总是令我们扫兴。

电脑：您能想到一个具体的例子吗？

人：好吧，我的男朋友就这样。

电脑：您的男朋友？

人：他说我动不动就沮丧。

电脑：哦，很抱歉听到你不开心。

人：是的。我不开心。

这种对话方式，给人的印象是计算机可以理解对话，又不必为对话提供任何新内容。它仅用200行代码就产生了理解和参与的错觉。

为了测试Eliza，维岑鲍姆邀请学生和同事与机器人聊天。他有些担忧地注意到，在与Eliza的短暂互动时，许多用户开始对算法形成情感上的依恋。他们会向机器敞开心扉，倾诉自己在生活和人际关系中遇到的问题。

更令人惊讶的是，即便维岑鲍姆告知参与者机器人生成语句的真相，这种亲密感仍会延续。维岑鲍姆的秘书令他尤其困惑，因为秘书在数月时间里，眼睁睁地看着他从头开始构建程序，但在测试时，她坚持要维岑鲍姆离开房间，以便可以与Eliza私下交谈。

对于维岑鲍姆来说，Eliza实验使他质疑艾伦·图灵Alan Turing在1950年提出的关于测试人工智能的思想。图灵在题为《计算机械与智能》的论文中建议，如果一台计算机可以与人类进行令人信服的文本对话，则可认为它是具备智能的——这就是著名的图灵测试的基础。

但是， Eliza表明，即使理解只从单侧产生，也可以在人与机器之间进行令人信服的对话：智能模拟(而不是智能本身)足以愚弄人类。维岑鲍姆称这种现象为Eliza效应，并认为这是数字时代人类共同产生的“妄想”。这一见解对维岑鲍姆来说是一次深刻的领悟，并定义了他在随后的十年中的思想轨迹。

1976年，他出版了《计算能力和人类理性：从判断到计算》一书。在书中，他认为，Eliza效应代表着困扰着“现代人”的更广泛的病理学症状。在一个被科学、技术和资本主义所征服的世界里，人们已经习惯于将自己看作是一台巨大而无所顾忌的机器中的孤立齿轮。魏岑鲍姆认为，在这样一个温情日益减少的社会中，人们变得如此绝望，以至于他们抛弃了他们的理性和判断力，相信一个程序可以给予自己温暖。

维岑鲍姆在余生里致力于发展对人工智能和数字技术的人文主义批评。他提醒人们，机器并不像我们想的那样聪明。即使他们看起来可以像人类一样说话，但他们从未真正倾听。

本文译自 spectrum.，由 majer 编辑发布。

PREV : 200名有前科的罪犯干了狱警
NEXT : 生物运动学：落在水里的蜜蜂如何自救