我过去认为感知型AI的想法是可笑的，但现在我不那么肯定了。科学方法还没有弄明白如何解释意识，正如奥吉布林所指出的。她写道，现代科学“本来就以排除心智为前提”。

如果我们不知道意识从何而来，我们可能希望小心，不要认为它只能从生物生命中产生，特别是考虑到我们在欣赏动物的能力方面表现很差。正如Vox的凯尔西·派珀3月在《埃兹拉·克莱恩秀》上说的那样:“进化只是反复选择了生育能力，看看我们在这里。我们有目标，为什么这个过程让你拥有目标?我不知道。”

我们没有理由相信任何当前的AI有意识，但我们也没有办法知道这是否以及如何会改变。“我们现在有点像会生火但甚至没有对它有任何理解的雏形，”我的朋友卢克·格斯勒，一位计算语言学家，告诉我。

如果AI中的意识真的会出现(是一个很大的如果)，我对我们是否会承认它持怀疑态度，因为与动物相同的原因，我们否认了它在动物身上的存在。当我们想要剥削某种生物(包括不仅限于动物，还包括奴隶、妇女和任何其他被排除在道德考量之外的人群)时，人类非常善于否认或歪曲它们的利益。创造有意识的AI将是不道德的，因为我们会将它带入这个世界作为家畜。将有意识的生物置于财产地位，正如我们从非人动物的经验中了解到的，本质上是不公正的，因为它们的福祉将总是受制于经济效率和主人的欲望。 “我们不可避免地会使它们遭受痛苦，”科幻作家泰德·查恩在2021年关于建造有意识的AI时说。“这在我看来很明显是个坏主意。”

“反人类主义者憎恨动物本性”

尽管我们不知道某些强大的未来AI是否可能具有意识，但如果它确实具有，我们不应该建造它。科学方法还没能解释意识的本质，正如O'Gieblyn所指出的。她写道，现代科学“本来就排除了心智”。

如果我们不知道意识从何而来，我们就不能肯定它只能来源于生物生命，特别是考虑到我们在欣赏动物能力方面做得很差。 正如Vox的凯尔西·派珀在3月的《埃兹拉·克莱恩秀》上所说:“进化只是反复选择了生育能力，看看我们在这里。我们有目标，为什么这个过程让你拥有目标?我不知道。”

我们没有理由相信任何当前的AI有意识，但我们也无法知道这是否以及如何可能发生变化。“我们现在有点像会生火但甚至没有对它的开端有任何理解，”我的朋友卢克·格斯勒，一位计算语言学家，告诉我。

如果AI中真的出现了意识(这是一个很大的如果)，我怀疑我们是否会承认它，出于与动物相同的原因，我们否认了它在动物身上的存在。 当我们想要剥削某种生物(包括但不限于动物，还包括奴隶、妇女和任何其他被排除在道德考量之外的群体)时，人类非常善于否认或歪曲它们的利益。 创造有意识的AI将是不道德的，因为我们会将它带入这个世界作为财产。 如我们从非人动物的经历所知，将有意识的生物置于财产地位本质上是不公正的，因为它们的福祉将始终服从于经济效率和主人的欲望。 “我们不可避免地会使它们遭受痛苦，”科幻作家泰德·查恩在2021年关于建造有意识的AI时说。“这在我看来很明显是个坏主意。”

本文译自 Vox，由 BALI 编辑发布。

PREV : 新的生物胶粘合剂在水中会变得更强
NEXT : 我们寻找外星文明的方法都错了