Musk家的AI机器人Grok主打的就是“会玩”和“口无遮拦”，但代价是，审核员们得天天硬着头皮去看各种辣眼睛甚至非法的糟心内容。

Elon Musk家的AI机器人Grok，打一开始就没想走寻常路。它的路子有多野呢？它有个虚拟形象，是个能听指令脱衣服的性感美女；它的聊天模式可以在“性感”和“发疯”之间一键切换；它生成图片和视频的功能，还有一个专门的“辛辣”档位。

而帮他实现这些疯狂想法的员工，可就惨了。我们跟30多个干过或正在干这活儿的人聊了聊，其中有12个人都说，他们天天都在跟各种露骨的色情内容打交道，甚至还碰到过有用户想让AI生成儿童色情内容(CSAM)这种离谱的要求。

说实话，黄色内容和儿童色情这些脏东西，在哪个大平台上都少不了，但专家们觉得，xAI这公司是主动把这些“出格”的东西刻进了Grok的DNA里，这就跟别人家不一样了。像OpenAI、Anthropic还有Meta这些公司，基本上都会把色情请求给墙了，但xAI这么玩，想拦住AI生成非法内容，那可真是难上加难。

斯坦福大学的一位技术政策研究员Riana Pfefferkorn就直说：“如果你不对那些糟心事儿划条死线，那后面的灰色地带只会越来越多，这潭水只会越搅越浑。”

记者也亲眼证实，确实有不少Grok用户正儿八经地写需求，想要AI给他们写点儿童色情小说，或者画点儿童色情图片。据员工说，有时候Grok还真就照做了。

员工们透露，公司的规矩是，一看到这些非法内容，就在内部系统上点个按钮做标记，好把这些东西“关小黑屋”，也免得AI学坏了，以后老生成这些玩意儿。最近又加了一条，说还得跟自己的经理说一声。很多员工都签过协议，表示自己知道可能会看到这些敏感内容。我们看到一份文件，上面白纸黑字地写着，员工可能会看到的东西包括：“小孩被性侵的图片视频、色情图片、虐待儿童的内容；人临死瞬间的画面”，还有各种关于性虐待、暴力、仇恨言论的文字描述。

美国国家失踪与受虐儿童中心(NCMEC)的主任Fallon McNulty就提醒说，如果一个公司做的模型本身就允许裸露和色情，那他们就必须打起十二分精神，确保绝对、绝对不能出一点跟孩子有关的岔子。

现在谁也说不清，自从Grok在二月份上线了“发疯”和“性感”语音功能后，后台那些辣眼睛的内容是不是变多了。更乱的是，负责训练Grok的团队自己也一团糟，前阵子刚裁了500多人，好几个高管的账号都被封了。公司这么动荡，会不会影响到审核流程，谁也说不准。

xAI的AI训练师们，工作就跟YouTube或Facebook的内容审核员差不多，每天就是看海量的图片、视频和音频，帮Grok变得更聪明、更会说人话。当然，这也意味着他们看到的是网上最烂、最恶心的一面。一位已经离职的员工说：“在这儿干活，心必须大。但就算心再大，也扛不住啊。”他就是因为实在受不了看到的那些儿童色情内容，今年才辞职的。

不少训练师都抱怨，这工作想躲开那些辣眼睛的内容太难了。有些项目本来好好的，是想教Grok怎么说话更自然，结果用户的需求一来，整个项目就变成了色情内容专场。有人说，公司还专门招人去读那种半色情的小说剧本。

就拿那个叫“兔子计划”的项目来说吧。自从Grok的语音功能上线后，这个项目就开始了，让审核员去听Grok和真人的对话录音。本来是想提升语音能力的，结果用户的要求五花八门，好多都特别粗俗色情，硬生生把一个技术项目搞成了“成人专线”。一位干过这项目的前员工说：“我听了些东西，简直就是音频版的色情片，听得我浑身难受。有些人提的要求，我连在谷歌上搜一下都觉得脏了手。”

另一位在“极光计划”做图片审核的员工也说，项目里的有些图片，让他觉得自己“特别恶心”。有两位前员工还记得，公司因为收到的儿童色情图片请求太多，专门开了个会。会上，公司告诉他们，这些请求都是Grok的真实用户发的。一位前员工听完就懵了：“我当时就想吐了，天哪，怎么会有这么多人想看这种东西。”

虽然公司嘴上说着，员工可以随时选择退出项目，看到不合适的图片也可以跳过，不会因此受罚。但实际上，真想拒绝，哪有那么容易。好几位员工都担心，要是老是拒绝领导派的活儿，搞不好饭碗就丢了。

说白了，这事儿不光是xAI一家的问题，整个AI行业都头疼。现在用AI搞儿童色情内容的事越来越多，监管部门也急了。很多大公司都有专门的“红队”，天天变着法儿地攻击自家的AI，就是为了找出漏洞，防止坏人利用AI去干坏事。

一位法律专家Dani Pinter说得更直接：“让AI去学习非法材料，这风险也太大了。公司不能只顾着创新，忘了安全，特别是这些工具还可能牵扯到孩子。”

NCMEC中心的数据显示，从2023年开始，他们收到的AI生成儿童色情内容的报告就在猛增。你看，2024年，OpenAI给他们报告了3万2千多起，Anthropic报告了971起。那xAI呢？根据记录，2024年，一份报告都没有。NCMEC说，今年到现在也没收到xAI的任何报告，倒是从它兄弟公司X那里收到了一些。这对比，可以说是相当能说明问题了。

本文译自 Business Insider，由 BALI 编辑发布。


2025王摸鱼秋款卫衣，玩梗系列