在遥远的过去,我还是一名学生,那时的计算机还是一个个大家伙。我有一位朋友,他的博士生导师坚持让他手工完成一项繁复艰巨的原子理论计算。 结果是铅笔划了一页又一页算稿,还满是错误,最终他在挫败中屈服了。在一个夜晚,他偷偷溜进了计算机实验室,编写了一个简短的代码来执行计算。 然后,他辛劳地手工复制了输出结果,并把它交给了他的教授。

完美,他导师说,这说明你真是个物理学家的好苗子。这位教授从未对所发生的事情有所察觉。 虽然我和这位朋友后来失去了联系,但我还知道很多其他人尽管比不上像老一辈用纸笔战斗的能力,但依然在科学领域取得了成功。

人们常常讨论,利用时髦的重大新技术来构建社会转型。 但是,重点不在于我们正在努力地学习和记住什么,也许我们应该考虑其对立面:我们可以坦然地忘记什么?2018年,《科学》杂志询问了数十名年轻科学家,学校应该向下一代传授什么知识。许多人都说我们应该减少记忆事实所花费的时间,并为更具创造性的追求提供更多空间。随着互联网变得越来越强大和全面,为什么还要记忆并保留信息呢? 如果学生可以通过智能手机获取全世界的知识,为什么还要把一堆东西塞在脑子里?

文明进化的过程就是战略性地遗忘那些曾经必不可少的生活技能。在新石器时代的农业革命(逐步发展为定居)之后,四处迁徙的人类可以抛弃许多林地生活的传统、动物追踪的技能、其他对狩猎和采集至关重要的知识。随后的几千年里,当社会工业化之后,阅读和写作变得不可或缺,而耕作与收获的知识又被逐步淘汰了。

估计现在我们许多人没有手机GPS的话,分分钟就迷路了。下一个会轮到什么呢?无人驾驶会让我们忘记如何手动驾驶吗?当语音识别人工智能包围生活,能够解析最微妙的话语,我们会忘记如何读写吗?以及,这一切重要吗?

毕竟我们大多数人不再知道如何种植充饥的食物或者建造居住的房屋。我们不知道怎么喂牲口、卷羊毛,甚至不知道如何更换汽车里的火花塞。我们多数人不需要知道这些事,因为我们是社会心理学家所谓的“交互式记忆网络”中的一员。

实际上,我们通过谈话、阅读和写作等活动不断与社会中的“记忆伙伴”进行“记忆交易”。作为这些网络的成员,大多数人不再需要记住大多数事。 这并不是因为这些知识完全被遗忘或丢失了,而是因为已经有某人或某物保留了它。 我们只需要知道与谁交谈,或者去哪里查。 这种遗传下来的合作行为能力的才是进化的礼物,它极大地扩展了我们有效的记忆能力。

然而,近来我们的许多的记忆伙伴都变成智能机器了。但人工智能——例如谷歌搜索——是与众不同的。它更是一个“超级记忆伙伴”,即刻响应、随时在线。它使我们能够访问整个人类知识库的很大一部分。

研究人员已然发觉当前这种情况存在一些陷阱。首先,我们的祖先是在人类群体中进化而来的,这是一种点对点式的记忆网络。然而,来自他人的信息总是被各式的偏见和偏颇的推理所修饰。人们将信息分解并合理化,而这可能是错的。我们已经学会了对他人和我们自己的这些缺陷保持清醒。但AI算法的展现方式使许多人相信这些算法一定是正确的和“客观的”。简而言之,这其实是一种一厢情愿。

如今,最先进的智能技术是通过重复测试和打分过程进行训练,依然是人类最终检测并确定正确答案。因为机器必定是依据有限数据集进行训练的,而人类在场边进行裁判,所以算法会倾向于放大我们现存的偏见——关于种族、性别等等。亚马逊在2017年之前使用过的一个内部招聘工具提供了一个经典案例:以其内部人力资源部门的决策进行培训,公司发现该算法会系统性地打压女性候选人。如果我们不加以警惕,我们的AI超级伙伴可能成为超级偏执狂。

第二个困境与获取信息的便利性有关。 在非数字的领域,向他人请教或是去图书馆找知识的努力使我们明确地知道什么知识是存在与别人的大脑或书籍中,什么知识是留在我们自己的头脑中。 但研究者发现,互联网极致简易的响应可能导致错误的观念扎根在随后的记忆中,我们寻找的知识实际是我们一直以来就知道的。

以上这些结果也许表明我们对“拓展思维”(extended mind)有一种本能的追求,这是哲学家大卫·查尔默斯和安迪·克拉克(David Chalmers , Andy Clark)于1998年提出的观点。他们认为我们的思维不仅仅局限在物理的大脑中,还应该考虑向外延伸,囊括辅助记忆和推理工具:比如笔记本、铅笔、电脑、平板和“云”。

由于获取外部知识越来越顺畅,我们可能正在构建一个扩展的“我”——一个潜在的人格,其突显的自我形象关联于我们的记忆网络中的知识存在的模糊区域。如此,当脑-机接口甚至脑-脑接口变得普遍时——也许是通过神经植入,会发生什么呢?目前这些技术正在开发中,提供给闭锁综合征病人、中风患者、渐冻人或运动神经疾病患者。然而,当技术臻至完善,用到的地方可能普遍的多——在竞争激烈的世界中增强身体性能。

似乎正在兴起一种新的文明,他们拥抱机器智能,拥有无处不在的接入点,可以随心所欲地接进人工记忆网络。实际上,植入了装置之后,我们访问的大多数知识也不会存储于“升级”的电子脑中,而是远程服务器中。眨眼之间,从登录到回应,谷歌搜索现在平均每次穿行约1,500英里(2414 km)到数据中心并返回,并且沿途使用大约1,000台计算机。但是对网络的高度依赖也意味着要负担新的弱点。我们的利益,例如食物或能源,所依赖的任何关联网络的崩溃都将是一场灾难。如果没有食物,我们就会饿死。没有能源,我们只能在寒冷中瑟缩。要是遇到大面积的记忆丧失,文明有可能直接坠入近在咫尺的黑暗时代。

即便认为机器可以进行思考,人和机器也是不同的。尽管机器通常不比我们更客观,我们还有弥补的能力。通过人类和人工智能团队的合作,我们可以发挥出色的棋艺,做出更好的医疗决策。那么为什么不应该使用智能技术来加强学生的学习呢?

技术可以潜在地改善教育环境、极大地扩大访问范围、提高人类创造力和福祉。许多人正感受到他们身在一些狭隘的文化中、处于巨变的门槛上。也许教育工作者最终将学会与人工智能合作,成为更好的教师。但是在教育环境中,与协作博弈或医疗决策不同,学生还不是某方面的专家。人工智能作为无所不知的记忆伙伴可以很方便地成为辅助的拐杖,培养那些自认为可以独立行走的学生。

正如我的物理学家朋友的经历所表明的,记忆可以适应和发展。其中一部分就是遗忘旧方法,以便为记忆新技能腾出时间和空间。只要旧的知识还是保留在网络的某个地方并且可以随时找到,那么它们就不算被遗忘。尽管如此,世殊事异,后来的人们肯定还是会慢慢地就不再理解前人的生活。

本文译自 aeon,由 dingding 编辑发布。

[ 广告 ]
赞一个 (18)

PREV :
NEXT :