[-]

纵然宽广如天空,飞机也偶有相撞。为了避免灾难,空中防撞系统(TCAS)应运而生,可以提前警告飞机驾驶者各种灾害。得益于一系列复杂的规则设置,系统可以告诉飞行员如何应对相应灾害。经过几十年的开发,这套规则已经高度复杂,能够理解整套规则的已经人屈指可数。TCAS一旦开发成型,人类就成为次要,相反转而使用模拟软件。如果TCAS经过大量测试反馈结果符合预期,工程师们就会批准TCAS投入使用。

如何避免飞机相撞本身已是个复杂度爆表的问题,为了解决这个问题而被设计出的这个系统复杂已经爆了几十块表,相信没有人能够真正理解这套系统,所以即便是这方面的专业人士有时也会对系统做出的反馈给吓到。这不断攀升的复杂程度也正是当代社会的普遍现象。人类无法理解的系统正在保护我们的安全,科技发展到了接受检验的节点。

[-]
复杂的航天飞机模拟驾驶室

复杂系统的发展已经走过了几个世纪。有日常生活离不开的机器设备的实物,也有让全球文明凝聚的信息系统和规则。技术正大踏步地在复杂化的道路上越走越远——也让现代人享受到了我们的父辈祖辈想都不敢想的便利——但是,其中不断叠加的复杂度,各种技术的互相关联、各种效应的交织并不总在人类的预期内。意识到技术本身的复杂度不断提升,制定和维护系统变得越来越复杂是一回事,但是目前的技术实际上已经在无法理解的路上完全失控,这,又是另一回事。

[-]
美国铁路

其实早在很久以前技术的复杂度已经影响到了人类生活,这方面最早可以追溯到铁路的发展。美国境内纵横交错的铁路网需要高度标准化的时区设置以协调如此之多的新增列车。随后在交通领域发生的演化又更为复杂。汽车已经走出复杂程度有限的机械化发明成为了轮上的计算机工程。据估计,全美交通系统中有超过30万个带信号灯路口。这些移动机器不仅仅在这些系统和网络里挪动。200年过去了,从飞机到计算器,人类使用的复杂机器里的零件数量持续以指数翻翻。

[-]
747飞机的驾驶舱接线

计算机赋予人类更加复杂的技术,技术的侵占影响着人们生活的方方面面——从厨房家电到建筑器械。结果是人类始料未及的:我们创造了一个人类大脑远无法掌握的世界。人类担心的不是天网——而是过于复杂的机器出错的概率也大——实际上比人类的概率还大。

[-]
机器之间彼此进行多种互动,更像是彼此间的算法交流,这过程中人类已经变得次要。

飞速发展的科技的终点我们已经能看到端倪:自给自足的高技术生态系统遍布世界,以超出人类知和理解范围的模式运作着。Nature杂志2013年九月刊中一篇文章这样说道:完整的机械生态已经进驻了金融生活,其反应之快已经超过人类——眨眼间股票买卖已经完成。在人类的努力下金融交易已逼近光速,现在,我们要认识到的是,机器之间彼此进行多种互动,更像是彼此间的算法交流,这过程中人类已经变得次要。

以前人类认为世界上没有人类不能掌握的技术,医学学者Moses Maimonides在他的新书《困惑者指南》中讲到人类的智能毫无疑问存在极限,智能发展到一定程度必定停滞,书中还举了一些作者看来永远无法解答的概念,比如天上的星星有几颗?是奇数还是偶数?随后科技革命爆发,仰仗科技这柄快刀,人类定能理解一切的自信又回来了。几百年后,今天的人类已经能够统计出夜空中肉眼可见的繁星数量了——一共是9110颗(是个偶数)。

[-]
宇宙中又有多少恒星呢?

自启蒙运动以降,我们正稳步走向 “纠缠”这个美国电脑界大牛Danny Hillis所发明的术语。纠缠是迈向更加互联而又更难理解的各种围绕人们的技术的趋势。Hillis认为,人类制造出遵守理性规则的机器,而现在人类已经无法理解机器的复杂程度。无论是庞大的互联网还是大型的基础设施,要在脑海中全面理解已经不再现实。

让我们来看看代码持续增长的软件吧,Windows操作系统经过10年的发展,源代码长度一再翻番,一个程序员已经不可能轻易读懂这些代码。还记得Y2K,也就是人们口中的千年虫?虽然我们平稳度过了千年虫危机,但是2000年1月1日到来之前,人们并不知道会产生什么后果,只是因为系统太过复杂了。

[-]
超大规模集成电路已经超出人类的理解范围

即便是司法体系也在矛盾中演变得更混乱。《美国法典》包含了2200多万单词和8万多款条例。这部浩瀚的司法网络体系是如此繁复,这实际上没有人能够完全理解。美国华盛顿特区进步政策研究所的Michael Mandel和Diana Carew在论文中将司法体系的过度冗余复杂称作“常态积累”,法典中不断被人加入新的规则和规定。分别看每个条款可能并无问题,但是一旦放在一起,条款之间可能就会相互矛盾,最后的结果可能大大超出人们预期。在奥巴马医改网站上人们已经见识过了司法复杂性和计算复杂性共同作用下导致的混乱。技术性系统的错误会影响每一个人的生活。

[-]
美国法案的关系

体系的复杂化甚至还有愈演愈烈之势。现在,我们有了3D打印机,有了协助人类挖掘隧道铺设桥梁的工程机械,人们还可以用复杂的CAD软件设计新产品、新的公共基础设施。以及,完全由电脑自主的“进化规划”算法能够让软件对不同的问题演化出最佳的解决方案,而不到最后一刻连电脑自己都不知道最后的答案。你想算一个拟合数据的方程式?交给“进化规划”算法就可以,不过算法看不看的懂就要靠你了。

许多年前曾有研究团队试图改良某种计算机回路。他们为计算机给出一个简单的任务,计算机要通过回路给出答案,并努力给出更加的答案。在回路运行了许多次后,研究团队最终取得了最成功的回路设计。别急,真正有意思的才开始:科学家发现在主回路之外还有单独的未接入主回路的回路存在,更有意思的是,这些野生回路对主回路的运转功不可没。进化规划利用了奇异的物理和电子现象来解决问题,这是工程师们万万没有想到的。用研究者的话来说就是:“尽管很难分析出原因,但是进化算法已经可以善用物理行为了。”

[-]
进化算法

进化算法产生出了新的高技术系统,说白了就是人类无法理解的系统,至少人类自己是绝不会这么干的。计算机在国际象棋界已经超过了人,人们无法看懂计算机的下子路数,但这不妨碍计算机赢棋。电脑的棋子移动套路被叫做“电脑下法”——这种移动人类是无法理解的,看上去臭棋一招,但能制胜。美国经济学家Tyler Cowen在他写的Average Is Over 一书中说:计算机的下法虽然看上去走错了,实际上灵得很。也正是因为计算机的出现,最高等级的国际象棋难度依然大大超出一个人类能掌握的范畴,大师也不例外。

[-]
国际象棋大师卡斯特洛夫败于超级电脑“深蓝”已是上世纪的事

人类的智力在日渐复杂化的科技面前服软,好像有点走极端的意思,甚至有点懦夫样,但是我们又要用什么来替代这些我们无法理解的系统呢?

[-]
说了那么多,面对看不透的高端技术,我们到底该怎么做呢?

做法之一:干脆承认人类输了。就像漫画角色凯文(和他的满脑子哲理的老虎朋友哈贝)宣称不管电灯还是吸尘器都是由魔法驱动。凯文不会去想风是怎么形成的这种复杂的自然现象,凯文只是觉得那是树在打喷嚏。人类的智力在日渐复杂化的科技面前服软,好像有点走极端的意思,甚至有点懦夫样,但是我们又要用什么来替代这些我们无法理解的系统呢?

其实也可以借鉴我们看待天气的态度。天气成因如此复杂,前一分钟的天空和下一分钟的天空完全是两回事,既然我们不能理解他,至少我们可以比较准确地预测天气,我们能够适应天气,这样我们就能提前做好准备。即便有突发情况让我们措手不及,就像卡特里娜飓风一样,人们还是挨过来了。类似天气模型,我们也可以开始制作关于复杂系统的模型,简单的模型也可以。我们可以模拟我们感兴趣的复杂系统——测试系统极限、调试参数,而用不着完全理解复杂系统。

模拟城市这个游戏让玩家可以体验如何运营一个城市。在模拟城市之前,城市规划和市政工程还没有一套清晰的思维模型。也没有什么系统能够像模拟城市这个游戏一样调节城市生活的方方面面而得到和现实不符的结果。如此复杂的调试,即使今天也无法真正在某座城市进行。此类游戏的玩家却能够很好的对各种调节的后果有一个大致的认识。我们要做的是把模拟技术世界“玩”地更溜。我们的教育系统也需要前进,要教会学生怎样去玩,要让学生去检验各种方法的区别和原理,至少是“有模有样”。

[-]
模拟城市让玩家能够体验运营一座城市的感觉

同时,我们也需要有人破译复杂系统在做什么,有点像电视天气预报。在 Average Is Over一书最后,Cowen对未来做出了预测。我们之中的一些人会搜集信息、吸收知识、然后评估信息……这些人是各种机器网络的破译者……短时间内,这些人是人类之中为数不多的了解机器运行真相的人。

当一切变得复杂到人类无法理解,当人类在诧异自己创造出来的复杂结构时却走到了末路尽头,这可能发生么?人类要承认自己能力的不足,然而我们却不能摊手认输,放弃追赶技术。

也许,是时候重新认识人类的智能极限了。

本文译自 Aeon,由 王大发财 编辑发布。

[ 广告 ]
赞一个 (40)

PREV :
NEXT :