英国配音演员格雷格·马斯顿(Greg Marston)最近在网上偶然发现了“康纳”——一个以马斯顿2003年录制的声音为训练样本生成的他自己的语音克隆体。这是他以前从未说过的话用他自己的声音说出来。

当年，他为IBM录制了一个会话，后来签署了同意书，允许这段录音被用于各种用途。当然，在那个时候，马斯顿无法预料到IBM会利用比他实际录音内容更多的东西。然而，得益于人工智能，IBM能够将马斯顿几十年前的语音样本卖给网站，这些网站正在利用它来构建一个可以说任何话的合成语音。马斯顿最近在温布尔登网球赛期间发现他的声音出现在温布尔登官网上。(IBM表示已了解到马斯顿的担忧，并直接与他讨论此事。)

他的遭遇说明了为什么许多我们经济中最知名的创作者都感到不安。我们正处于信任下降的时期，人们意识到他们对公共空间的贡献可能被取用、盈利利用，并有可能与他们自己竞争。当这种信任完全破坏时，我担心我们的数字公共空间可能会变得更加充满不可信任的内容。

事实上，艺术家已经开始从X社交媒体平台(原Twitter)删除自己的作品，因为该公司表示将使用其平台的数据来训练人工智能。好莱坞作家和演员部分原因在于他们希望确保自己的作品不会被喂入公司可能试图用它来替代他们的人工智能系统。包括《纽约时报》和CNN在内的新闻机构已在其网站添加文件，以帮助防止人工智能聊天机器人抓取其内容。

作者正在起诉人工智能企业，指控他们的书籍包含在网站的训练数据中。OpenAI在另一起诉讼中辩称，根据版权法的“公平使用”条款，使用受版权保护数据来训练人工智能系统是合法的。

在高质量内容创作者正在争论他们作品被使用方式的同时，可疑的人工智能生成内容正在大量涌入公众领域。NewsGuard识别出14种语言下共475个人工智能生成新闻和信息网站。人工智能生成音乐正在不断涌入流媒体网站，为骗子创造人工智能版权费用。亚马逊上的人工智能生成书籍——包括可能导致错误识别高度有毒真菌的蘑菇识别指南——数量如此之多，以至于该公司现在要求在其Kindle平台自行出版的作者也声明是否使用人工智能。

这是一个典型的“公共领域悲剧”案例，即一个公共资源由于个人利益最大化而受到伤害。传统例子是牲畜可以放牧的公共牧场。如果没有任何限制，个别牲畜主就有动机过度放牧，从而破坏土地对每个人的价值。

互联网上也有公共领域。尽管它有很多有毒角落，但它仍充满活力的部分，如维基百科和Reddit论坛区，这里的志愿者常常出于善意分享知识，并努力遏制恶意行为。

但这些公共领域现在正被追求利润最大化的科技巨头过度利用，它们试图将这些地方找到的所有人类智慧、专业知识、幽默、轶事和建议喂入自己的有偿人工智能系统。

举个例子，维基百科的志愿者信任他们的工作将按照网站条款使用，即要注明来源。现在一些维基编者似乎在讨论是否有任何法律追索权，以防聊天机器人未注明来源就使用他们的内容。

监管机构也在试图搞清楚。欧盟考虑出台第一套全球人工智能限制，要求一些生成性人工智能系统提供透明信息，包括披露用于训练系统的受版权保护数据摘要。

这将是一个向前迈出的好步骤，因为许多人工智能系统并未完全披露它们训练所用的数据。主要靠记者挖掘出人工智能聊天机器人下面那些模糊的数据。《大西洋》最近的一项调查详细揭示了Meta人工智能聊天机器人Llama的训练数据中包含超过17万本盗版书。《华盛顿邮报》的调查显示，OpenAI的ChatGPT依赖于数十万个网站未经同意采集来的数据。

但透明度还远远不够，无法重新平衡数据被利用一方和准备从利用中获利的公司之间的力量平衡。

美国声优协会(National Association of Voice Actors)创始人兼主席蒂姆·弗里德兰德(Tim Friedlander)呼吁人工智能公司采取道德标准。他说，演员需要三个C:同意、控制和报酬。

事实上，我们每个人都需要这三个C。无论我们是专业演员，还是只在社交媒体上发布照片，每个人都应该有权决定是否同意将自己的在线生活喂入那些巨大的人工智能机器。

同意不应意味着必须找到一些难找的退出按钮进行点击——这就是行业目前的走向。

报酬更难确定，特别是考虑到大多数人工智能聊天机器目前主要是免费服务。但不要误会，人工智能行业计划并将从这些系统中获利，一旦获利，就将面临那些为利润提供动力的人的追究。

对马斯顿来说，他的生计受到影响。他估计，他的人工智能克隆体已经使他失去工作，将严重影响他未来的收入。他正在与律师合作寻求报酬。他告诉我:“我从未同意或同意过让我的声音被克隆，公开发布/播放，从而与自己竞争。”

但即使我们没有直接受到人工智能影响的工作，我们每个人都可能想写一本小说，创作一首歌，录一个TikTok视频，在社交媒体上开个玩笑。如果我们没有任何保护免受人工智能过度利用者的侵害，我担心公开创作将感觉毫无意义。这将是一场真正的悲剧。

本文译自 New York Times，由 BALI 编辑发布。

PREV : 骗局转变的时代
NEXT : 在远古时代，我们与其他种类的人类杂交和通婚