我过去认为感知型AI的想法是可笑的,但现在我不那么肯定了。科学方法还没有弄明白如何解释意识,正如奥吉布林所指出的。她写道,现代科学“本来就以排除心智为前提”。

如果我们不知道意识从何而来,我们可能希望小心,不要认为它只能从生物生命中产生,特别是考虑到我们在欣赏动物的能力方面表现很差。正如Vox的凯尔西·派珀3月在《埃兹拉·克莱恩秀》上说的那样:“进化只是反复选择了生育能力,看看我们在这里。我们有目标,为什么这个过程让你拥有目标?我不知道。”

我们没有理由相信任何当前的AI有意识,但我们也没有办法知道这是否以及如何会改变。“我们现在有点像会生火但甚至没有对它有任何理解的雏形,”我的朋友卢克·格斯勒,一位计算语言学家,告诉我。

如果AI中的意识真的会出现(是一个很大的如果),我对我们是否会承认它持怀疑态度,因为与动物相同的原因,我们否认了它在动物身上的存在。当我们想要剥削某种生物(包括不仅限于动物,还包括奴隶、妇女和任何其他被排除在道德考量之外的人群)时,人类非常善于否认或歪曲它们的利益。创造有意识的AI将是不道德的,因为我们会将它带入这个世界作为家畜。将有意识的生物置于财产地位,正如我们从非人动物的经验中了解到的,本质上是不公正的,因为它们的福祉将总是受制于经济效率和主人的欲望。 “我们不可避免地会使它们遭受痛苦,”科幻作家泰德·查恩在2021年关于建造有意识的AI时说。“这在我看来很明显是个坏主意。”

“反人类主义者憎恨动物本性”

尽管我们不知道某些强大的未来AI是否可能具有意识,但如果它确实具有,我们不应该建造它。科学方法还没能解释意识的本质,正如O'Gieblyn所指出的。她写道,现代科学“本来就排除了心智”。

如果我们不知道意识从何而来,我们就不能肯定它只能来源于生物生命,特别是考虑到我们在欣赏动物能力方面做得很差。 正如Vox的凯尔西·派珀在3月的《埃兹拉·克莱恩秀》上所说:“进化只是反复选择了生育能力,看看我们在这里。我们有目标,为什么这个过程让你拥有目标?我不知道。”

我们没有理由相信任何当前的AI有意识,但我们也无法知道这是否以及如何可能发生变化。“我们现在有点像会生火但甚至没有对它的开端有任何理解,”我的朋友卢克·格斯勒,一位计算语言学家,告诉我。

如果AI中真的出现了意识(这是一个很大的如果),我怀疑我们是否会承认它,出于与动物相同的原因,我们否认了它在动物身上的存在。 当我们想要剥削某种生物(包括但不限于动物,还包括奴隶、妇女和任何其他被排除在道德考量之外的群体)时,人类非常善于否认或歪曲它们的利益。 创造有意识的AI将是不道德的,因为我们会将它带入这个世界作为财产。 如我们从非人动物的经历所知,将有意识的生物置于财产地位本质上是不公正的,因为它们的福祉将始终服从于经济效率和主人的欲望。 “我们不可避免地会使它们遭受痛苦,”科幻作家泰德·查恩在2021年关于建造有意识的AI时说。“这在我看来很明显是个坏主意。”

本文译自 Vox,由 BALI 编辑发布。

[ 广告 ]
赞一个 (4)

PREV :
NEXT :