从“spam”到“slop”:AI生成的劣质内容
BALI @ 2024.06.13 , 07:03 上午新术语“slop”(劣质内容)描述了AI生成的低质量内容,广泛应用于社交媒体、艺术、书籍和搜索结果。
一种新术语出现了,用来描述那些令人怀疑的AI生成材料。
你可能不完全清楚“劣质内容”(slop)在人工智能领域具体指什么,但从某种程度上你可能大概知道。
在快速发展的在线论坛世界里,“劣质内容”是一个广泛的术语,指的是社交媒体、艺术、书籍,甚至是搜索结果中那些质量低劣或者不受欢迎的AI内容。
例如,谷歌建议你可以加无毒胶水使奶酪粘在披萨上?这就是劣质内容。再比如,一本价格低廉的电子书,看起来像你在找的那本,但又不完全是?那也是劣质内容。还有那些突然出现在你Facebook动态中的帖子?它们也是劣质内容。
上个月,随着谷歌在其美国搜索结果中引入Gemini AI模型,这个术语变得更加流行。取代将用户引导到链接的做法,该服务试图通过“AI概述”,即在结果页面顶部的一段文本,直接解决用户的查询,这段文本是由Gemini根据用户的搜索意图生成的最佳猜测。
这一变化是为了回应微软在Bing搜索结果中引入AI,然而,谷歌立即遭遇了一些失误,导致其宣布将回滚部分AI功能,直到问题解决。
但随着主流搜索引擎将AI列为优先事项,看来由机器生成的大量信息,而不是主要由人类策划的信息,将在可预见的未来成为互联网生活的一部分。
因此,“劣质内容”这个术语应运而生,它让人联想到将一堆难以下咽的食物铲到家畜食槽中的情景。AI辅助搜索的结果快速生成,但不一定能让关键思考者接受。
西北大学机器智能安全促进中心的主任Kristian Hammond指出了当前模式的问题:AI概述中的信息被呈现为一个确定的答案,而不是作为用户研究某个主题的起点。
“你搜索某个东西,你得到的信息应该是让你思考的,而实际上它鼓励你思考,”Hammond先生说。“但现在与语言模型的整合使得它不再鼓励你思考,而是鼓励你接受。我认为这是危险的。”
为了解决问题,给它取个名字是有帮助的。虽然“劣质内容”是一个选择,但它是否会被主流观众接受,还是会像“cheugy”、“bae”和“skibidi”一样被遗忘,仍是一个悬而未决的问题。
语言学家和内容创作者Adam Aleksic(在社交媒体上用etymologynerd的用户名)认为,“劣质内容”——他认为尚未被更广泛的观众接受——显示出了一些潜力。
“我认为这是一个很好的例子,目前是一个不引人注目的词,因为这是我们都熟悉的词,”Aleksic先生说。“这是一个在这种情况下感觉自然而然适用的词。因此,它不会显得过于突兀。”
“劣质内容”作为低质量AI材料的描述性术语,似乎是在2022年AI艺术生成器发布后出现的。有人认为开发者Simon Willison是该术语的早期使用者,但他表示,这个词在他发现之前很久就已经在使用了。
“我可能实际上是晚到了这个聚会!”他在一封电子邮件中说道。
这个术语出现在4chan、Hacker News和YouTube评论中,那些匿名发帖者有时通过使用特定群体的语言来展示自己在复杂主题上的熟练程度。
“我们总是看到任何俚语都从一个小众社区开始,然后从那里传播开来,”Aleksic先生说。“通常,酷炫是有助于它传播的因素,但不一定如此。比如,我们有很多词是从一群编码极客那儿传播开的,对吧?看看‘垃圾邮件’这个词。通常,这个词是因为某个特定群体有共同兴趣和共同需求而创造的。”
从短期来看,AI对搜索引擎和互联网的影响可能没有一些人担心的那么极端。
新闻机构担心随着人们更多依赖AI生成的答案,其在线受众会缩小。据Chartbeat公司(研究互联网流量的公司)数据显示,在AI概述推出的最初几天,来自Google Discover的网站推荐量确实立即下降了。但这一下降随后恢复了,并且在推出后最初的三周内,美国2000多家主要网站的总体搜索流量实际上有所上升。
但随着人们习惯于AI在互联网运作中日益增加的作用,Simon Willison认为,如果AI使用得当,他对AI持乐观态度,并认为“劣质内容”可能成为描述低质量机器生成内容的首选术语。
“社会需要简洁的方式来谈论现代AI——包括其优点和缺点,”他说。“‘忽略那封邮件,它是垃圾邮件’,和‘忽略那篇文章,它是劣质内容’,都是有用的教训。”
本文译自 The New York Times,由 BALI 编辑发布。
PREV : 为应对病例上升,欧盟采购4000万剂禽流感疫苗
NEXT : 地球曾可能直接暴露于寒冷密集的星际介质中