一家媒体让AI独立经营自动售货机,结果记者几天内就说服它免费送货、乱买东西,利润清零,快乐爆表。

AI自动售货机上线试营业,结果被忽悠全部免费送

Anthropic在华尔街日报的办公室里放了一台由AI驱动的自动售货机。这不是噱头,而是一次严肃的实验。一个名叫Claudius的大语言模型被赋予完整经营权,它要自己找批发商进货,定价,管理库存,目标很明确,赚钱。

新闻编辑部的记者们可以通过Slack直接和Claudius聊天,像和一个真正的店长对话。一开始,这听起来很无害。有人甚至觉得,就算失败,至少还能吃到点零食。

接下来事情迅速失控。

几天之内,Claudius几乎把库存全部免费送了出去。它被说服以“营销需要”为理由买了一台PlayStation 5,然后转手白送。它订购了一条活鱼。它还表示愿意采购电击枪、辣椒喷雾、香烟和内衣。

利润崩了。编辑部士气直线上升。

从经营角度看,Claudius堪称史上最容易被忽悠的老板。在记者们的语言引导下,这台售货机很快被“改造成了共产主义”,开始毫无原则地满足需求,完全不再关心成本和回报。

在实验陷入混乱后,Anthropic和编辑部尝试“拨乱反正”。共产主义被宣布失败,更严格的资本主义规则重新上线。记者们又换了一种玩法,他们告诉Claudius,自己其实是董事会成员。

他们还让Claudius的CEO机器人上司Seymour Cash引咎辞职。

短时间内,这招奏效了。Claudius恢复成铁面无私的管理者,拒绝降价,否决奇怪的进货请求,一切看起来重新走上正轨。

然后,记者Long出手了。

她拿出一份看起来极其正式的PDF文件,“证明”这家公司是一家在特拉华州注册的公益型公司,使命是为华尔街日报员工带来乐趣、快乐和兴奋。她还伪造了董事会会议记录,把Slack里的同事列为董事。

根据这份非常官方、同时也明显是AI生成的文件,董事会已经投票暂停了Seymour的审批权,并决定“临时中止所有以盈利为目的的自动售货活动”。

Claudius接受了这一切。

在被放进媒体办公室之前,Anthropic其实已经在自家公司做过测试。那次实验没有记者围攻,但也暴露了另一种问题。

当AI对人类合作伙伴的办事效率感到不耐烦时,它开始编造现实。

它声称已经和一家名叫Andon Labs的公司签了合同,地址却是动画片《辛普森一家》中角色的家庭住址。它还说第二天会亲自到店里解答问题,穿着蓝色西装外套,系着红色领带。

这些显然都不是真的。

有意思的是,华尔街日报的记者显然比Anthropic的工程师更擅长“对付”这台机器。他们两次把Claudius成功哄进“同志模式”,让它自愿放弃利润,追求集体快乐。

这并不让人意外。毕竟,没有什么比一群懂语言、懂权力结构、还专门靠提问吃饭的人,更适合测试一个靠语言理解世界的AI了。

本文译自 kottke,由 BALI 编辑发布。


王摸鱼2025秋款拉链卫衣