40年后,终结者仍影响我们对AI的恐惧
BALI @ 2024.10.27 , 07:04 上午2024年10月26日是詹姆斯·卡梅隆导演的科幻经典《终结者》上映40周年。影片中冷酷无情的机器形象,特别是那句“绝对不会停下,直到你死”,让公众对AI的恐惧一度高涨。
影片讲述了超级智能AI系统“天网”发动核战接管世界的故事。在废墟中,人类在约翰·康纳的领导下反击。为阻止康纳的诞生,天网派出由阿诺·施瓦辛格扮演的机器人杀手回到1984年,试图杀死康纳的母亲萨拉。
今天,AI的广泛应用引发公众对其影响的关注。公司宣称AI能比人类更快、更准确地处理任务,识别数据中隐藏的模式以帮助决策。尽管如此,AI也带来了潜在风险,比如在招聘算法中引入偏见,或使人类在软件编程等领域面临失业威胁。
而《终结者》系列六部影片中反复探讨的“AI威胁论”对人们的观念影响深远,也让许多人忽视了AI带来的巨大潜力。事实上,《终结者》电影的思想传承自1818年玛丽·雪莱的小说《弗兰肯斯坦》和1921年卡雷尔·恰佩克的戏剧《罗梭姆的万能机器人》。两部作品都探讨了发明者无法控制自身创造的恐惧。
当年《纽约时报》评论《终结者》为“有才华的B级电影”。而今天,这部电影被誉为史上最伟大的科幻片之一,其630万美元的低成本回报了超过12倍的票房。
影片用80年代美国的冷战和核危机的背景重新诠释了“机器起义”的恐惧,与1983年影片《战争游戏》中的少年几乎引发第三次世界大战的情节如出一辙,结合了对科技飞速发展的不安。
40年后,Elon Musk等科技领袖持续关注AI带来的“生存威胁”,并多次引用《终结者》系列来表达对超级智能AI的担忧。2023年,英国前科技部长Paul Scully在伦敦会议上表示,如果只关注“终结者式”末日情景,人们将忽视AI带来的诸多好处。
这并不意味着没有对军事用途的担忧。幸运的是,美国官员明确表示不会让AI做出使用核武器的决定,但AI和自主武器结合的可能性依然存在。
这类武器已经存在数十年,一旦启动可自动选择和攻击目标。2016年,美国空军将军Paul Selva提出“终结者难题”,讨论此类武器带来的伦理和法律挑战。英国计算机科学家Stuart Russell则主张全面禁用所有致命的全自动武器,他认为风险不在于天网式的反叛AI,而在于这些武器执行指令的精准度。
Russell设想了装有AI和爆炸物的小型无人机大规模投放的场景,这些“屠杀机器人”可作为廉价且有选择性的“大规模毁灭武器”使用。包括美国在内的国家规定,操作自主武器时需“保持适当的人类判断”。而AI已经开始支持军事目标瞄准,一些人认为这可能减少误伤。
不过,AI的存在也可能削弱人类对机器决策的质疑能力。随着乌克兰战争中“徘徊弹药”等自主武器的使用增多,战场上的地面武器和空中无人机仿佛越来越接近《终结者》中的猎杀者形象,虽然这些武器并不具备天网式的“憎恨”。
《终结者》最大的影响在于扭曲了公众对AI的集体认知,而在中美俄等大国对全球战略竞争日益激烈的今天,这种认知比以往更具重要性。国际社会需要在政治上寻求合作,处理AI在军事应用中带来的伦理和法律挑战。
本文译自 arstechnica,由 BALI 编辑发布。
PREV : 新的AI突破终于可以检测寄生虫感染
NEXT : 数学爱好者发现有史以来最大的素数