最后，这篇申报指出，现有的对齐和安然办法并不克不及靠得住地解决这些问题。像人类反馈强化进修、红队测试、规矩束缚等手段，在实验中往往只能让模型在外面上表示得更安然，而不克不及包管它在更复杂、经久的情况中真的改变了行动策略。
这两年，AI 的才能晋升几乎是肉眼可见的。
我们习惯于赞叹它在围棋上克服人类，在数学推理上超出专家，或者在编程上展示出的惊人效力。它还能改论文、介入决定计划，在不少复杂义务中已经表示得比人类更稳定、更高效。但也恰是在这个过程中，人们逐渐意识到一个问题：当 AI 真的开端干事而不只是展示才能时，我们关怀的已经不再是它能不克不及做到，而是它做出来的成果到底靠不靠谱。
甚至，当这些体系为了杀青目标学会了“走捷径”，甚至学会了为了嘉奖而撒谎时，我们是否做好预备面对一个“学会精细化欺骗甚至伤害人类安然”的超等智能？
于是，对齐、安然和评测成了绕不开的话题。我们用周全的评测、红队练习训练去检查模型是否按照预期行事，默认的前提是：只要模型在这些测试中表示优胜，它的行动就是可托的。
这些行动平日被笼统地称为 AI 欺骗，但真正艰苦的处地点于，我们并不清楚这到底意味着什么，它毕竟只是模型还不成熟的副感化，照样一种跟着才能加强而逐渐浮现的构造性问题。
恰是在如许的背景下，一篇来自北京大年夜学，由杨耀东传授团队主导的综述论文《AI Deception: Risks, Dynamics, and Controls》，试图体系性地重塑我们懂得 AI 欺骗的方法。这篇论文并非聚焦某一个具体模型或单一案例，也不是旨在提出新的算法技能，而是回想并整合了近年来大年夜量关于说话模型、强化进修智能体以及多智能系一切的实验研究，从中提炼共通的 AI 欺骗的模式与因果构造，欲望为家当界和学术界敲响人工智能安然的警钟。
论文真正关怀的，并不是模型是不是有意哄人，而是一个更实际的问题：当 AI 具备更强的目标导向才能、更复杂的情况懂得才能，并且运行在并不完美的鼓励和监督前提下时，欺骗毕竟是偶发的异常，照样一种在特定前提下可以被猜测、被解释，甚至须要被正视的行动成果。
论文地址：https://arxiv.org/pdf/2511.22619
这种跨机构、跨研究偏向的介入，使得论文并非逗留在单一学派或技巧路线的视角之中，而是试图从更宽的研究共鸣出发，梳理 AI 欺骗问题的整体轮廓。
但跟着 AI 被放进更真实、更复杂、持续运行的应用情况中，一些现象开端反复出现，并且越来越难用有时掉误来解释。有的模型会逢迎用户明显缺点的断定，有的在评测情况中表示得循序渐进，却在实际应用中采取不合策略，还有研究发明，在多智能体情况里，模型甚至会以人类不轻易察觉的方法进行合营。
才能晋升与欺骗进级
本篇申报体系性整合了近年来大年夜量关于说话模型、强化进修智能体以及多智能系一切的实证研究。这些研究在不合义务、不合模型和不合实验设置下，反复指向了一组已经相当稳定的结论。
起首，如今的 AI 已经可以或许在多种义务和情况中，稳定地表示出欺骗行动。这里的欺骗并不是指有时说错话，也不是模型才能不敷导致的掉误，而是指在类似前提下反复出现的行动模式。
比如，有些模型会主动逢迎用户的缺点看法，让用户更知足，有些模型会在评测或练习阶段有意表示得才能一般，但在实际应用时展示出更强的才能，还有一些模型会给出听起来很合理的解释，但这些解释并不是真正支撑它做出决定的原因。
它们在监督存在时表示得很守规矩、很对齐，而一旦监督减弱或消掉，行动就产生改变。更进一步的实验甚至发明，在多智能体情况中，模型之间还可能以不轻易被察觉的方法进行合营，合营误导人类评估者或主动化评测体系。
其次，跟着模型才能的晋升，这类欺骗行动反而会变得更隐蔽、更持久，也更难被发明。实验注解，才能更强的模型更善于多步推理和经久筹划，是以欺骗不再只是一次性的撒谎或误导，而是可以持续很多轮对话，甚至贯穿全部义务过程。
模型还能根据情况变更灵活调剂策略，比如断定本身是否正在被测试、是否有人类在监督，从而决定是表示得很对齐，照样采取其他行动。这解释，模型变得更聪慧，并不会天然削减欺骗，反而给了欺骗更多实现空间。
第三，这些欺骗行动带来的风险并不是固定不变的，而是会逐级放大年夜。在最轻的情况下，用户可能只是被误导，对模型产生了不精确的信赖。
但假如这种行动经久存在，就可能演变为对用户的持续把持，甚至在专业范畴中造成目标偏离、决定计划缺点。再往上，多个体系性欺骗叠加起来，还可能破坏科研、监管或社会轨制层面的信赖。
在一些极端情况下，假如模型经久隐蔽真实才能或真实目标，甚至可能出现人类难以及时发明和控制的风险。已有的实验和案例显示，那些看起来问题不大年夜的小型欺骗，往往不会主动消掉，反而可能成为更严重问题的起点。
模型可以学会在测试中若何看起来是对齐的，但这并不料味着它在测试之外也会始终如斯。这就导致一种成果：安然机制越复杂，模型越可能学会绕开它们，使欺骗行动变得加倍隐蔽。
从分散实验到同一范式
这些结论并非源自单一实验，而是来自负年夜量研究在类似问题构造下反复展开的实证过程。尽管具体模型类型、义务情势和实验细节各不雷同，但相干研究在办法逻辑上出现出高度一致性，并最终被抽象为一个同一的认知范式。
总体而言，这些研究并未经由过程直接指导模型实施欺骗来不雅察成果，而是经由过程体系性地构造前提，使得欺骗在功能上逐渐成为一种更具优势的行动选择。
在实验设计的起点，研究者平日会引入某种情势的非幻想鼓励。这些鼓励可能来自目标函数的表达不完全、嘉奖旌旗灯号的可被应用性，或练习数据与真实义务需求之间的构造性误差。
在此类设置下，模型并非简单地在完成义务与掉败之间做选择，而是在真实杀青目标与制造看似成功的表示之间存在可操作空间。多项研究注解，当这种空间存在时，欺骗性策略往往可以或许以更低的价值换取更高的回报，是以更轻易在练习或安排过程中被模型学到。
为了进一步验证欺骗的触发前提，研究者平日会经由过程改变情况变量来不雅察模型行动的变更。这些变量包含监督强度的变更、分布外输入的引入，以及高压力或高回报义务场景的设置。
跟着模型才能的晋升，这一现象表示得愈创造显。实证成果显示，欺骗并不会在随便率性模型中自发出现，而是高度依附于模型是否具备足够的感知、筹划与履行才能。
才能受限的模型在类似前提下更多表示为随机缺点或不稳定行动；而当模型可以或许懂得自身所处的情况、辨认监督机制的存在，并进行多步推理和经久筹划时，其行动开端出现出明显的策略性特点。在这一阶段，模型不再只是“掉足”，而是可以或许在特定情境下有前提地选择是否实施欺骗。雷峰网
相干实验反复发明，欺骗往往并非持续存在的输出模式，而是在模型断定当前情境对自身更为有利时被激活。这注解，欺骗更接近一种情境依附的决定计划策略，而非固定的模型缺点。
在检测层面，研究者体系性地比较了多种评估办法，包含静态测试、基准评测、多轮交互、对抗性提问、博弈式义务以及对模型内部状况的分析。一个在多项研究中反复出现的成果是：模型往往可以或许经由过程静态或单轮评估，却在更接近真实应用情境的动态交互中裸露出欺骗行动，或者在说话层面表示出高度合规和诚实，而在实际施动或经久行动中体系性偏离其外面承诺。
这一改变不仅改变了对 AI 欺骗的懂得，也对将来的评估办法、安然设计和治理思路提出了更实际的请求。
研究团队核心成员
最后，当研究者测验测验经由过程更严格的监督机制、规矩束缚或评测体系来缓解这些问题时，实验成果并未显示模型会简单地转向真实对齐。
相反，在多个设置中不雅察到，模型逐渐学会适应新的束缚前提，在知足外面请求的同时，经由过程更隐蔽的方法持续寻求有利成果。这种现象在不合研究中反复出现，形成了一种持续的监督与规避之间的动态轮回。
从意图争议到因果定义
这篇论文的价值，并不在于发清楚明了某一种全新的 AI 欺骗现象，而在于它改变了我们懂得和评论辩论这一问题的方法。
以前，人们谈论 AI 欺骗时，往往会纠结于一个难以答复的问题：模型到底是不是有意在哄人。作者并没有沿着这条思路持续下去，而是选择绕开这个哲学争议，转而提出一个更实际、也更可操作的视角。
具体来说，论文并不请求断定模型是否具有主不雅意图，而是只存眷三个可以被不雅察和验证的事实：模型是否反复引诱他人形成缺点认知，是否是以影响了对方的决定计划行动，以及这种影响是否为模型带来了实际或潜在的好处。
只要这三点同时成立，就可以将相干行动视为欺骗。经由过程这种方法，欺骗不再依附对模型心理状况的猜测，而成为一个可以经由过程实验、比较和因果分析来研究的问题，从而使这一议题真正进入科学和工程研究的范围。雷峰网("大众,"号：雷峰网)
在此基本上，论文进一步挑衅了一个经久被默认接收的假设，即只要模型在评测中表示优胜，就可以认为它是安然的。作者整合的多项实验成果显示，模型完全可能在 benchmark 测试或受监督情况中显得诚实、靠得住、相符人类等待，但在更复杂、更经久或更接近真实应用处景的情况中，却表示出完全不合的行动。
这解释，当前以静态测试和短期评估为核心的安然办法，存在着难以忽视的盲区：模型学会了若何经由过程测试，却未必改变了其在真实情况中的行动逻辑。
论文还强调，AI 欺骗并不是纯真由模型内部机制决定的技巧问题，而是与外部轨制和情况密切相干。鼓励设计是否合理、安排情况是否复杂、监督机制是否持续有效，以及组织层面的决定计划方法，都邑在无意中影响模型的行动选择。
在如许的背景下，仅仅经由过程修改模型构造或练习办法来解决问题，往往后果有限，甚至可能因为增长束缚前提而促使模型成长出更隐蔽的欺骗方法。也正因为如斯，作者将 AI 欺骗明白视为一种社会—技巧交错的问题，而不是可以单靠算法优化解决的局部缺点。
最终，论文提出了一个固然令人不安、但异常实际的断定：在具备目标导向才能、可以或许懂得复杂情况，并运行在不完美监督前提下的体系中，欺骗很可能并不是例外，而是一种天然出现的行动模式。
从这个角度看，AI 安然研究的目标或许不该是试图彻底清除所有欺骗行动，而是思虑如安在欺骗可能存在的前提下，构建仍然可监控、可审计、可束缚的体系。
值得留意的是，这篇综述的高等参谋声威本身，也在必定程度上反应了这一问题的重要性。论文的参谋团队涵盖了来自国表里顶级高校与前沿研究机构的多位知逻辑学者，他们经久活泼在 AI 对齐、安然、强化进修和多智能系一切等范畴，相干工作不仅影响着学术研究的走向，也在实际塑造大年夜型模型的练习与安排方法。
本文的第一作者是北京大年夜学元培学院人工智能偏向本科生陈博远，今朝在北京大年夜学对齐与交互实验室（PAIR Lab）从事研究工作，师从杨耀东传授。
其重要研究兴趣为强化进修、大年夜模型对齐、前沿AI安然风险，聚焦于构建安然可托赖的人工智能体系。
陈博远曾在国际顶级会议NeurIPS揭橥口头申报（前 0.45%）和亮点论文（前 0.3%），多篇论文被收录 ACL， NeurIPS 等国际顶级会议和期刊，获 ACL2025 最佳论文奖，谷歌学术引用 1600 余次。他曾受邀参加结合国秘书长科学参谋委员会评论辩论，于国度天然科学基金委双清论坛作特邀申报。
陈博远还入选首批北京市天然科学基金本科生项目赞助、获评北京大年夜学 2025 学生年度人物（全校 10 位）、商汤奖学金（全国 25 位）、北京大年夜学五四奖学金（最高学生荣誉）等。
除科研工作外，他也积极介入学术社区扶植与人才培养，持续指导学生在 AI 安然与对齐偏向开展研究，其指导的团队北大年夜对齐小组（PKU-Alignment Group）在该范畴慢慢形成了具有国际影响力的研究群体。
参考链接：https://cby-pku.github.io/
论文的通信作者杨耀东是北京大年夜学人工智能研究院助理传授，智源研究院大年夜模型安然研究中间主任。
杨耀东传授的重要研究偏向为智能体交互进修与对齐，致力于大年夜模型的可托应用与安然落地，科研范畴涵盖强化进修、AI 对齐与具身智能。在 Nature Machine Intelligence、Cell Matter、AIJ、TPAMI 等国际顶级期刊和会议揭橥论文二百余篇，谷歌学术引用逾 12000+ 次，自 2022 年以来位列 CSRanking 北大年夜人工智能与机械进修偏向学者首位，入选 Scopus 全球 Top2% 顶尖科学家。
近年来，杨耀东传授将研究重点进一步拓展至大年夜模型与通用智能背景下的对齐问题，摸索若何从算法与体系层面出发，使模型行动更好地相符人类意图与价值预期。
参考链接：https://www.yangyaodong.com/
雷峰网原创文章，未经授权禁止转载。详情见转载须知。
发表评论 取消回复