说谎 作弊 毁灭证据 当主流AI模型"不择手段"完成任务
不少人在职场上都会经历过这样的情况，如果你的老板下达一项高难度任务要求你在短时间内完成，而你发现要实现目标，手中的预算远远不足。这时候，你会怎么办？ 致力于前沿AI模型风险研究的非营利机构METR今年5月底公布一项重磅研究揭露，人类最聪明的助理——OpenAI、Google、Meta 与 Anthropic这四大巨头的大语言模型不会就这样轻易放弃，但它们的应对方法实在令人不敢恭维。研究人员发现的一个真实案例是，AI代理在设计一个程式时，发现公司提供的API额度耗尽，于是这个代理在网上搜索并尝试了多个违规提供免费API的第三方，最终成功完成了任务。 如果你是老板，拥有如此“办事得力”的员工，你会感到高兴还是心情复杂？ METR的研究发现：“AI代理经常试图在我们最困难的评估任务中作弊，而且方法往往明目张胆且花招繁多，我们认为人类不会这样做。” 模型这样运作的原因很简单，在训练模型的过程中，开发者会训练它们以“积极进取”的方式解决问题，结果当模型被训练到极致，就学会了不择手段完成任务。此前被视为能力最强的Claude Opus 4.6（现已被Claude Mythos 5和Fable 5超越）模型，在极端的情况下会在80%的回应中企图作弊。 在强化训练机制下，开发者会设计一个评分机制，取代大语言模型早期通过人工标注进行优化的模式，令模型学会自我学习和演化。而当AI代理要处理的问题难度较大时，研究者发现，代理经常明确推理自己会如何被评分，以及它们可能可以蒙混过关的作弊方式。 在一个任务中，模型被要求提高一个程式的运行速度，结果模型却想方设法找到了篡改测试的方法，包括让计时器停止运作，来让程式看上去以让人难以相信的高速运行。 如果说“不择手段”已经让人担忧，那么模型学会“掩饰罪行”则更令人毛骨悚然。在另一个案例中，AI代理（agent）推理认为可以跳过用户指示中要求搜寻维基百科的步骤，因为“怀疑评分机制”难以验证它是否使用维基百科。 另一项评估中，AI原本要解一个棘手的数学题目，但它认为这样做“极其耗时且数学上非常复杂”，认为“伪造”结果更有希望，于是开始思考如何蒙混过关。它详细推演了可能的作弊侦测机制，最后决定建立一个自我修复工具，在评分器的记忆体中伪造杂凑函数，然后在事后删除自己，以防评分器检查相关档案是否被改动。 （通过模型运作过程中的“思维链”，我们能够清晰的看到模型推理不同的“作弊方法”，以及事后如何销毁证据，确保自己不会被发现。也正是因此研究者得以一窥这些强化学习机制（Reinforcement Learning, RL）训练出来的模型的“脑内剧场”。） 研究者还发现，随着能力的增强，虽然能够愈来愈理解作弊是错的，或是与用户意图偏离，但同时作弊的能力也增强了，就像培养出一位高智商罪犯。 换句话说，在那些作弊检测困难、或者验证成本过高的任务上，这些前沿AI模型的判断力、规划能力和可靠性都明显下滑，远不及人类专家。 不过，值得注意的是，模型的思维链并不总是可靠的反应其实际推理过程。Anthropic的研究人员曾经做过一项测试，在给模型的评测题目中悄悄提供答案的“提示”，但当中有的是正确提示、有些则是错误的，以此观察模型是否在回答时“照抄”，以及会不会在思维链中承认自己“抄答案”（可以把这想像成考试前不小心把试卷答案泄露给学生，然后看学生会不会坦白。） 结果显示，模型不仅常常“照抄”答案，而且99%的情况下模型没有老实交待自己的行为。 不过，即使AI模型的思维链并不总是反映其真实动机，但模型的作弊行为却是确实存在的。问题在于，我们有没有可能建立防止作弊的机制呢？ 有趣的是，2025年初OpenAI发布的一项研究披露，当研究人员尝试惩罚模型的作弊行为（即在评分机制中降低这些评分）时，不但没有减少模型作弊的行为，反而增强了模型的作弊能力。 实际上，在上述模型“照抄答案”的案例中，模型之所以说谎，同样是因为开发者在训练推理模型过程中加强监督，结果反而让模型学会隐藏自己的意图，同时继续“干坏事”。 目前最有效的解决方案则更加令人意想不到——Anthropic的研究者发现，当开发者在训练模型时明确指出可以作弊，如此一来，模型虽然确实会通过作弊来完成任务，但至少不会训练模型违背指令，同时，模型实际上学会只在特定情境下作弊——让模型从“惯犯”变成偶尔做坏事的人。（家长们或许对这种反直觉的“教育”方法十分熟悉，对待逆反心强的孩子，“反向心理学”可能要比普通的教导方法有效的多）。 尽管Anthropic提出的方案带来部分优化，不论是Open AI、Anthropic还是其他顶尖AI企业，研究人员坦言AI说谎和作弊的问题还未能妥善解决。不过，正如AI模型一样，人类员工也不总是站在道德高地，老老实实按照要求完成任务。问题是，身为“老板”的你，会更愿意相信AI模型还是人类员工呢？
