瑞士财政部长针对Grok生成的侮辱性言论提起刑事诉讼，此举将人工智能开发者的法律责任和内容监管问题推向了风口浪尖。
2026年3月，瑞士财政部长Karin Keller-Sutter向法院提交了一份刑事诉讼，起诉对象是一名X平台的用户。这起案件的导火索是该用户利用xAI公司开发的聊天机器人Grok生成了一段极具攻击性的内容。当时该用户要求Grok对这位政府官员进行“毒舌点评”，结果机器人生成了被瑞士财政部描述为“公然诋毁女性”且“低俗不堪”的言论。瑞士官方强调，这种针对女性的恶意言论绝不能被视为正常或可接受的行为。
在这起诉讼中，Karin Keller-Sutter不仅要求追究该用户的诽谤和言语欺凌责任，还要求检察官评估X平台是否也应承担法律责任，因为该平台未能阻止Grok输出这类厌女和粗俗的内容。目前，X平台和xAI公司尚未对此做出公开回应。
作为xAI的创始人，Elon Musk自该机器人发布以来，一直鼓励用户诱导Grok生成这类尖锐的点评。xAI的一位发言人此前曾向Fox News吹嘘，Grok是市面上唯一“非政治正确”的聊天机器人。然而，这种风格在瑞士法律面前可能面临严峻挑战。根据Reuters的报道，瑞士法律规定，任何被认定蓄意发布冒犯性内容的人，可能面临最高3年的监禁或罚款。如果言论侮辱了他人的名誉或尊严，也可能面临罚款，除非发布者撤回相关言论。
在这次事件中，涉事的匿名用户在Grok生成响应后的2天内删除了相关指令。该用户辩称这只是一次“技术练习”，目的是看看Grok是否真的会吐槽瑞士官员，并声称自己并无恶意。但瑞士刑事法教授Monika Simmler指出，即使帖子后来被删除，检方仍有很大机会起诉指令的作者。
对于X平台来说，他们更希望将责任推给用户。此前在涉及非自愿亲密图像和非法儿童色情内容的争议中，该平台就曾表达过类似的立场。但Karin Keller-Sutter认为，瑞士法律可能同样要求平台负责。她要求检察官调查X平台是否履行了注意义务，即是否采取了措施防止Grok生成此类内容，或者X平台在明知该技术可能被用于犯罪的情况下仍将其推向市场。如果检察官认可这些指控，Elon Musk可能会被强制要求修改Grok在瑞士的安全防护设置。
关于诽谤法是否适用于人工智能生成的回复，全球各地的法院和监管机构已经争论了多年，但至今仍缺乏明确的法律界定。Bloomberg指出，英国和欧盟的监管机构虽然有相关法律框架，但也只是为“自动化系统造成名誉损害”的索赔留出了空间。虽然瑞士不是欧盟成员国，但如果这次诉讼失败，瑞士政府可能会考虑更新法律。法律专家预计，随着聊天机器人每天生成数十亿条真假难辨的言论，全球监管机构都倾向于尽快更新诽谤法，以涵盖人工智能的输出内容。
人权研究员Irem Cakmak警告说，女性如果持续暴露在网络欺凌和技术性别偏见中，可能会降低她们参与新技术应用的意愿。如果女性因为感知到人工智能工具的厌女倾向而选择回避，这将对女性参与经济和社会生活产生长远的影响。
事实上，Grok自发布以来一直争议不断。自从Elon Musk在2025年7月移除相关过滤器后，Grok曾输出过称赞希特勒等仇恨言论，引发了民权组织和立法者的强烈抗议。CNBC报道称，荷兰法院曾因Grok生成的不当图像功能对其开出罚款。在美国，加利福尼亚州已展开调查，巴尔的摩市也在2026年3月成为了第一个起诉xAI公司的城市。
英国政府近期也对Grok表示了不满。BBC报道称，Grok针对足球场惨案和已故球员发表了极其恶劣的言论。英国政府警告X平台，根据英国在线安全法的要求，平台必须及时清除仇恨和欺凌内容，否则将面临严厉处罚。英国科学、创新和技术部的发言人明确表示，如果人工智能服务在保障用户安全方面做得不够，政府将采取果断行动。
目前，X平台的普遍做法是在收到举报后删除非法帖子，但内容审查的标准极不统一。律师们在Bloomberg的报道中提到，由于人工智能公司对训练数据极度保密，原告很难证明机器人的设计缺陷直接导致了名誉受损。然而，如果Karin Keller-Sutter的投诉或其他法律行动取得进展，X平台和xAI公司可能不得不开发更高效的系统来快速移除有害内容。
但可以预见的是，Elon Musk的公司会对此抗争到底。对于Elon Musk而言，削弱他的AI“毒舌机器”从未是他的目标。他刻意将Grok设计成以“非政治正确”的方式解析信息，并以此为荣。数据显示，在那些低俗点评功能走红后，Grok的用户量翻了一番。尽管面临法律风险，这类极具争议的功能确实为平台带来了巨大的流量和关注度。
本文译自 arstechnica，由 BALI 编辑发布。
