来自加州帕洛阿尔托的安然公司 Calif 称，其团队在本年 4 月测试 Mythos 早期版本时，基于该模型输出的线索，发明并组合了两个自力马脚，再辅以一系列进击技巧，最终实现了对 Mac 设备内存的破坏，并获取本不该被拜访的体系区域。 这类进击被归类为“权限晋升应用”，假如与其他进击链结合，有可能让黑客完全控制目标电脑。
苹果方面表示，公司正在审查 Calif 提交的技巧申报，以验证相干发明，并强调“安然是我们的重要义务，我们对任何潜在马脚申报都高度看重”。 近年来，苹果也在内部安排和测试前沿大年夜模型，用于主动化发掘和修补体系马脚，试图在这场由 AI 推动的新一轮攻防比赛中保持主动。
以前数月，大年夜模型在发掘软件缺点方面的才能出现跃升，激发收集安然圈对“Bugmageddon”（马脚大难）的担心：前所未稀有量级的安然马脚将被集中发明，既对负责打补丁的技巧团队构成巨大年夜压力，也在短期内放大年夜收集安然风险。 本年早些时刻，Anthropic 的另一款模型曾在两周内为 Firefox 浏览器找出 100 余个高危马脚，大年夜致相当于全球研究者两个月的发明总和。
多位安然专家指出，这一技巧意义重大年夜，原因在于苹果在锁逝世 macOS 进击面方面投入巨大年夜，且经久以强安然著称。 曾在Google工作的安然研究员 Michał Zalewski 在核阅 Calif 的研究后表示，在苹果赓续强化平台防护的背景下，如许的马脚链条非分特别惹人注目，显示出进击方在技巧和对象上的双重演进。
苹果在客岁 9 月对外颁布了一项名为“内存完全性强迫”（Memory Integrity Enforcement，MIE）的技巧，称这是历时五年、跨硬件与操作体系协同设计的成果，旨在从底层大年夜幅晋升内存进击防护才能。 然而据 Calif 披露，在 Claude 模型的协助下，针对两处 macOS 马脚的应用代码仅用五天时光就完成了开辟，从侧面凸显了 AI 在进攻性安然研究上的效力晋升。
Calif 首席履行官、资深安然专家 Duong Thai 强调，此次进击并非 Mythos 零丁“主动完成”，而是结合了人类安然研究员的经验与断定。 在他看来，Mythos 当前最善于的是重构和扩大已有公开文档中的进击思路，此前并未出现它自立创造全新进击技巧的案例，是以此次发明被团队视为“某种意义上的新冲破”。
Zalewski 认为，尽管外界对 Mythos 的一些宣传存在“炒作过度”的成分，但最新一代对象已经可以用于“有意义的马脚研究和代码审计”，不仅进步查错效力，也在必定程度上改变传统安然研究的工作范式。 在此次事宜中，对象给出的候选路径与人类专家的分析互相弥补，使得本来极难触及的马脚链条最终得以成型。
据介绍，Calif 研究团队对此次发明高兴不已，本周二特地从帕洛阿尔托驱车前去苹果位于库比蒂诺的总部，当面向苹果安然团队报告请示了这份长达 55 页的技巧申报，具体说清楚明了所应用的马脚细节和进击流程。 公司结合开创人 Bruce Dang 与 Duong Thai 在园区摄影留念的画面，也成为此次“人机协同攻破苹果防地”的象征性一幕。
按照行业惯例，Calif 筹划在苹果完成修补后再对外颁布技巧细节，以避免马脚在未修复前被恶意应用。 Duong 估计，在苹果高度看重安然的前提下，这些缺点应会在较短时光内获得修复补丁。
这一事宜也在政策层面产生连锁反响。白宫曾对 Anthropic 慢慢扩大年夜 Mythos 外部拜访权限的筹划持保存甚至否决立场，担心高才能模型在收集安然范畴的攻防双向放大年夜效应。 环绕新一代 AI 模型安然性的争议，正在推动特朗普当局从新评估其此前相对“放任”的 AI 成长思路。
今朝，联邦官员正推敲经由过程一项行政敕令，为当局对最前沿 AI 模型设立更明白的监督权，包含对具备明显安然影响才能的模型进行评估、审查和须要的拜访限制。 在 macOS 马脚事宜之后，如安在应用 AI 进步防御才能的同时，防止其被用于放大年夜进击面，正成为美国当局、科技巨擘和安然行业不得不合营面对的核心议题。
发表评论 取消回复