Anthropic 让外部审计员住进公司，这波操作能信吗？

一、一个开源模型凭什么收费比闭源还贵？

不好意思，拿错剧本了。今天要聊的是另一件让人想拍桌子的事：Anthropic 居然把自家大门钥匙交给了外部审计机构。

你没看错。就是那个天天把“安全”挂在嘴边的 Claude 母公司，最近宣布允许非营利机构 METR 的六名工作人员入驻办公室，给他们配硬件、开内部系统权限，待遇“大致等同于本公司风险评估团队”。说白了，就是让外人像员工一样盯着自己。

别被忽悠了，这不是什么慈善行为。Anthropic 今年计划 IPO，估值预计超过 2 万亿美元（约合 13.39 万亿元人民币），这个节骨眼上，安全故事讲得好不好，直接关系到股票能不能卖出去。

二、这东西到底是个啥

简单说，Anthropic 搞了一套 “类员工级访问” 机制。六名 METR 员工常驻公司，用 Anthropic 的电脑、连 Anthropic 的内网，能看的东西跟内部风险团队差不多。他们可以翻模型日志、查训练数据、甚至跟员工聊天套话——当然，得按规矩来。

这不是审计，这是把审计员变成了半个同事。

METR 不是无名之辈。这家机构之前参与调查过 Hugging Face 遭失控 OpenAI 模型攻击的事件，查了数千条日志，用的还是企业提供的笔记本电脑。换句话说，人家有实战经验，不是来走过场的。

有意思的是，Anthropic 不付钱给 METR。METR 也不收 AI 公司的捐赠，资金来自个人、慈善组织和英国 AI 安全研究所这类政府机构。这招挺聪明——拿人手短，不吃你的饭，说话才能硬气。

但问题来了：不拿钱就等于独立吗？批评者直接开喷，说这安排可能产生利益冲突，还拿审计行业的老毛病举例——安达信当年跟安然穿一条裤子，最后一起完蛋。

Anthropic 的回应是：公开太多信息会被恶意使用者或竞争对手利用。他们还打了个比方，说这就像银行监管，监管机构会派驻常驻审查人员进驻大型银行。

听着挺合理，但银行监管有法律背书，METR 有什么？一份无权否决发布的报告，加上 Anthropic 可以要求删减“客户数据、律师保密内容、模型架构信息”的条款。

三、怎么用？步骤拆解

你可能会问，这玩意儿跟我有什么关系？我又不是 Anthropic 员工。别急，这套机制的操作逻辑，其实值得每个做 AI 产品的人琢磨。

第一步：选一个信得过的第三方。 Anthropic 选了 METR，还拉了埃森哲和 SecureBio 分别负责安全体系和化生武器风险审查。埃森哲那边双方各承诺投入至少 10 亿美元（约合 66.93 亿元人民币）。这手笔不小，说明不是做样子。

第二步：给权限，但留后门。 六个人，公司硬件，内部系统访问权。但发布报告前，Anthropic 可以要求删减特定内容。这就像让你进厨房看做菜，但盐放多少不让你说。

第三步：鼓励员工配合。 Anthropic 说，鼓励员工像对接风险部门同事那样跟评估人员共享信息。翻译一下：别藏着掖着，人家是来帮忙找雷的。

第四步：报告公开发布，公司无权否决。 这是最关键的一步。METR 想发什么就发什么，Anthropic 只能删减特定类别信息，不能阻止发布。

用下来感受如何？说实话，半信半疑。

好的地方在于，METR 确实有独立性，不拿钱、有政府背景、有实战经验。六个人常驻办公室，比一年来审计两周的会计师事务所靠谱多了。

但坏的地方也很明显：删减条款是个大口子。什么叫“模型架构相关信息”？范围太模糊了。今天说架构保密，明天是不是可以把所有安全漏洞都归到“架构”里？

透明度这东西，给一半不如不给，因为你会以为剩下那一半也是透明的。

四、对手们慌不慌

Anthropic 这步棋，最难受的可能是 OpenAI。

9 月份，Anthropic CEO 达里奥·阿莫迪促成了一次罕见的立场统一——山姆·奥尔特曼和埃隆·马斯克都支持在头部 AI 实验室派驻外部审计人员。奥尔特曼嘴上说“提议很不错”，但 OpenAI 至今没公布任何引入评估人员的计划。

这就尴尬了。你老板都点赞了，你倒是动啊。

马斯克那边更不用说了，xAI 天天喊着要“理解宇宙本质”，安全审计的事估计排在火星移民后面。

谷歌和 Meta 也没动静。说白了，Anthropic 抢了个先手，把“安全透明”的旗子插在了自己门口。以后监管机构找上门，Anthropic 可以摊手说：你看，我早就让人进来看了。

但这套机制真能防住灾难性风险吗？我持保留态度。六个人，面对一个可能比人类聪明得多的系统，能看出什么来？METR 之前查 Hugging Face 被攻击事件，翻了数千条日志才找到线索。模型能力每几个月翻一番，审计员的学习曲线跟得上吗？

更关键的是，Anthropic 自己说了，公开信息可能被竞争对手利用。这话没错，但也是万能挡箭牌。安全与保密之间的边界，从来都是权力说了算。

五、跟你有什么关系

如果你是 AI 从业者，这件事的信号很明确：安全审计正在从公关话术变成硬性成本。Anthropic 和埃森哲各砸 10 亿美元，这不是小数目。以后做前沿模型，第三方评估的预算得提前留出来。

如果你是普通用户，别急着感动。这套机制能不能真拦住风险，要看 METR 的第一份报告什么时候出、敢写多深。如果半年后只发了一篇“未发现重大风险”的官样文章，那今天这波操作就是高级公关。

如果你是投资者，盯紧 Anthropic 的 IPO 招股书。安全措施占了多少篇幅、METR 的报告有没有被引用、删减条款具体怎么写的——这些细节比 CEO 的公开信值钱得多。

安全不是请客吃饭，是请人挑刺。挑得狠不狠，看的是挑刺的人有没有被收买。

现阶段值得关注，但别把“开放访问”当成“风险已解”。Anthropic 开了个好头，可六个人的眼睛，盯不住一万亿参数的模型。

本文基于 media 公开报道编译解读

本文基于 media 公开报道编译解读，查看原文