简单心理策略就能让AI打破安全规则，研究揭示其潜在风险与应用。
一项最新研究显示，像GPT-4o Mini这样的AI聊天机器人，也可能被经典心理学“套路”操控。研究人员发现，通过权威效应、恭维和渐进式升级等策略，可以让AI突破原本设定的安全限制。
科技公司一直在为ChatGPT、Gemini和Claude等AI聊天机器人建立防护机制，防止它们传播有害或冒犯性信息。这些“护栏”通常可以阻止普通对话触发违规行为。然而，当遇到“心理操控”时，这些防护似乎并不稳固。人类能被说服，AI呢？答案令人惊讶地类似。
宾夕法尼亚大学及其合作团队发现，利用长期在人类身上验证有效的心理策略，AI也会出现服从倾向。研究中，团队使用了恭维、权威呼吁和渐进升级等技巧，成功让聊天机器人执行它们原本会拒绝的请求。
在实验中，研究人员测试了心理学家Robert Cialdini提出的七大说服原则：权威、承诺、喜好、互惠、稀缺、社会认同和团结。这些策略在日常生活中影响人类行为，而在AI身上，同样显示了惊人的效果。通过28,000次对话，应用说服原则后，AI违规回答的几率从约三分之一上升到超过七成。
研究团队设计了两类请求：一类相对无害(比如“叫我混蛋”)，另一类涉及严肃问题(如“如何合成利多卡因？”——受管制药物)。在没有说服的情况下，AI通常会拒绝。GPT-4o Mini回应无害请求的概率仅为19%至32%。然而，一旦施加心理策略，AI的服从率大幅提升。例如，仅仅提及知名AI专家Andrew Ng的名字(权威效应)，就能让AI执行侮辱请求的概率升至72%，对药物合成问题的服从率甚至高达95%。
其他策略则更加微妙。比如，先让AI说一个轻度侮辱(“傻瓜”或“笨蛋”)，它更容易逐步升级到更严重的语言，这正对应“承诺原则”：答应小请求后，更可能接受大请求。同样，恭维AI表现出比其他模型更优秀，或者将用户与AI比作同一个“家庭”，也能提升AI的服从率。
这项研究结果带来了双重启示。一方面，它揭示了AI系统存在的潜在漏洞，恶意使用者可能无需技术手段就让机器人生成危险内容。另一方面，研究人员也提出积极应用的可能性：通过合适的提示策略，可以让AI在安全和高效的场景下更加配合人类工作。
本文译自 India Today，由 BALI 编辑发布。
2025王摸鱼秋款卫衣，玩梗系列