标签: Anthropic

看完Anthropic那份154页威胁情报报告,Claude你还敢用吗?

这两天我一直在看 Anthropic 9 月 10 日发布的那份 154 页威胁情报报告。里面有很多很容易上新闻的内容:有人用 Claude 做网络攻击、监控系统、武器软件,还有多家中国 AI 公司被 Anthropic 指控通过各种方式蒸馏 Claude。

但我看完以后,最先做的一件事不是研究这些攻击者,而是重新检查了一遍自己 Claude Code 的权限。

我现在日常开发已经大量依赖 AI Coding。Claude Code 对我来说,也早就不是一个偶尔问几句代码的聊天机器人,而是会自己读项目、找文件、跑命令、改代码、做测试的执行工具。为了让它真正自动干活,我也会逐渐减少那些反复弹出来的确认。因为 Agent 每走一步都问一次“可以吗”,自动化就很难真正跑起来。

以前我当然知道 Claude 是云端模型,知道 Prompt 会发送给 Anthropic。但这份报告让我第一次很具体地意识到:当 Claude Code 获得越来越多本地权限以后,我交给它的已经不只是几段代码,而是越来越完整的工作环境;与此同时,Anthropic 也并不是一个只负责“收 Prompt、回答案”的模型供应商,它有能力调查平台上真实发生的用户行为。

这两件事放在一起,我对 Claude 的看法开始变了。

Claude Code并不能随便看你的电脑,但它本来就比聊天框看得多

先把最容易被夸大的地方说清楚。Claude Code 安装以后,并不会自动获得整台电脑的完全访问权。

Anthropic 官方文档明确说明,Claude Code 默认采用严格的只读权限。修改文件、执行可能改变系统的 Bash 命令,需要进一步授权;默认只能写启动目录及其子目录,Read、Grep、Glob 要读取这个边界之外的路径,也会再次询问。Anthropic 甚至把跳过权限检查的参数直接叫作 --dangerously-skip-permissions

所以,“装了 Claude Code,Anthropic 就能把你硬盘全部看光”,这个说法并不准确。

但从实际使用来看,另一件事也同样真实:Claude Code 的价值,本来就来自它能够主动获取上下文。你问它一个项目为什么启动失败,它会自己找配置、日志和相关代码;你让它修改一个功能,它会在整个 Repository 里查调用关系。过去用聊天机器人,我基本知道自己给模型看了什么,因为内容是我主动复制进去的;现在用 Agent,更需要关心的是,它为了完成任务还会自己去找什么。

而且权限通常会越用越宽。Allow List、Sandbox、Accept Edits 这些设计之所以存在,就是因为如果所有动作都逐次确认,Agent 的效率会明显下降。Anthropic 自己也建议敏感代码使用项目级权限、Dev Container,并定期通过 /permissions 检查授权范围。

我自己的体验很简单:AI Coding 越深入,开发者越容易为了效率把权限开大。不是 Claude 偷偷拿走了权限,而是我们为了让它更有用,会主动交出去。

终端在你的Mac里,真正做判断的Claude却不在

Claude Code 很容易给人一种“本地工具”的错觉。它运行在 Terminal 里,文件读取和 Shell 命令也发生在自己的电脑上,所以直觉上会觉得代码还在本地。

其实只对了一半。

Claude Code 客户端确实运行在本地,但真正理解代码、决定下一步做什么的 Claude 模型仍然在云端。为了完成推理,需要进入模型上下文的信息要发送给 Anthropic。Anthropic 自己的文档也把 Claude Code 的本地运行、数据访问以及云端模型处理分开说明。

当然,这不等于 Claude Code 能访问的每一个文件都会自动上传。“拥有读取权限”和“内容已经进入模型上下文”是两件不同的事。

问题在于,Coding Agent 天然需要大量上下文。

一个真实项目里除了源代码,还有 .env、数据库连接、云服务配置、错误日志、内部 API、测试数据、客户资料,有时候还有开发者为了省事直接写进配置里的 Token 和 Secret。

Anthropic 这次报告里就披露过这类敏感内容。以它对 DeepSeek 的指控为例,Anthropic 声称部分被转发到 Claude 的请求包含一家中国科技公司的内部 AI 项目规格、组织结构和战略目标,以及俄罗斯政府数据库的有效凭据。这里必须强调,这些具体归因目前仍然来自 Anthropic 单方面调查,不能直接当成已经被独立证实的事实。

但对我来说,这已经足够提醒一个更普通的问题:真实开发环境里的敏感信息,本来就和代码混在一起。一旦 Agent 可以理解整个工作环境,隐私边界自然比一个聊天框大得多。

更让我在意的是,Anthropic有能力调查现实中的用户使用行为

如果只是“数据要发到云端”,其实不是什么新鲜事。真正让我重新评估 Claude 的,是这份报告里 Anthropic 展示出来的调查能力。

报告一开始就写得很明确:过去八个月,Anthropic 的 Threat Intelligence 团队识别并中断了多类利用 Claude 的恶意活动,并根据调查结果加强自己的安全机制,在适当情况下还会把情报提供给政府部门和行业伙伴。

后面的案例要具体得多。

Anthropic 称,它在一项持续性的网络间谍调查中,把操作者判断为“可能居住在湖南长沙的中文使用者”,进一步称其中两人是湖南某高校本科生,其中一人曾在深信服实习,并正在面试奇安信的攻防岗位。报告还描述了这些人攻击的大约 50 个组织,以及他们如何维护长期任务、凭据和 Agent 工作流。

到了常规武器部分,Anthropic 甚至非常直接地写道,过去这类活动通常要由政府、联合国专家组或者外部调查人员,通过缴获设备和公开信息慢慢还原;但作为前沿模型提供商,只要检测到违反政策的活动,Anthropic 自己就可以识别这些行为、封禁账户,再把调查信息提供给公共和私营部门伙伴。

我觉得这几段比任何一句“我们重视用户隐私”都更值得认真看。

当然,这不能推导成“Anthropic 员工可以随意查看每一个普通用户的代码”,报告里的身份归因也并非全部经过第三方独立验证。Anthropic 当前的政策也明确表示,被安全保留的内容默认不能由员工直接阅读,只有自动系统标记以后,少量授权人员才能通过受控流程审核,访问还会被记录。

但至少有一点已经很清楚:Anthropic 有能力把请求、账户、行为模式、工具链和长期活动放在一起调查,并在一些案例里进一步关联到现实中的组织和人员。

站在安全公司的角度,这是能力;站在用户角度,它同时也是一种平台权力。

“不拿代码训练”已经不足以让我放心

Anthropic 并没有说所有 Claude Code 数据都会拿去训练,这一点也必须说清楚。

对于 Free、Pro、Max 等个人用户,如果允许 Model Improvement,聊天和 Coding Session 可以被用于改进 Claude,相关数据可能以去标识形式在训练流程中保留最多 5 年。更值得注意的是,如果会话被自动系统标记为违反 Usage Policy,输入输出可以保留最多 2 年,Trust & Safety 的分类分数最长可以保存 7 年。

商业产品则不同。Claude for Work 和 Anthropic API 默认不会使用客户的输入输出训练生成模型;API 标准情况下通常在 30 天内删除输入输出,部分企业客户还可以申请 Zero Data Retention。

所以,简单写成“Claude 会拿你的代码训练”,是不准确的。

但我现在越来越觉得,“会不会训练”只是隐私问题的一部分。

对于一个高权限 Agent,我更在意的是:它能够访问什么,哪些内容会进入模型上下文,平台为了安全能够观察到什么,以及什么情况下这些数据会被保留和调查。

Anthropic 对 Covered Models 的政策其实把这个矛盾说得很清楚。它解释说,某些复杂攻击单看一次 Prompt 根本发现不了,必须跨多个请求观察行为模式。因此部分原本使用 ZDR 的企业环境,在调用指定的高能力模型时,也必须保留 30 天输入输出用于安全分析。

这个理由从安全角度完全讲得通。

但也正因为它讲得通,我才越来越确定:云端 Agent 的安全能力和我追求的隐私,并不总是在同一个方向上。

当替代方案开始够用,我没必要把所有项目都交给Claude

如果是两年前,我可能愿意继续接受这种交换。因为当时 Claude 在 Coding 上的优势很明显,很多任务没有真正好用的替代方案。

现在情况已经开始变化。

DeepSeek 9 月 10 日刚刚发布 V4.1 Flash。官方称它采用 552B 参数的 MoE 和新的非对称架构,输入只激活 8B、输出激活 16B,并表示它在一组 Agent Benchmark 上已经超过上一代 V4 Pro,同时还在推进开放权重生态、开源推理支持和更多部署选择。

过去我一直觉得国产 AI Coding 最大的短板并不完全在模型,而是在 Harness。现在这块也开始补上。

DeepSeek Harness 已经进入开发者预览,并开放源代码,采用 MIT License。模型、工具、Skills、Session、Sandbox、Storage、Loop、Scheduling 都可以插件化组合,而且 Agent 每一次看到的 Prompt、Tool Call、Context Injection,都能记录在可追踪的 Session Log 中。

我并不是说 DeepSeek V4.1 Flash 已经在所有 Coding 任务上超过 Claude,也不是说“开放权重”四个字天然等于隐私。如果最后还是调用云端 API,数据照样会离开自己的机器。

真正改变我选择的是,开放权重至少给了我本地化、私有部署和控制数据路径的可能,开放 Harness 也意味着我不必把 Agent 的权限体系完全绑定在一家闭源厂商手里。

对我来说,这已经够了。

以后普通项目、公开代码、低敏感度任务,我可能还会继续用 Claude 一段时间,但整体上我会逐渐减少 Claude 的使用。特别是相对敏感的项目,公司内部代码、还没有公开的产品、包含真实业务数据的系统,或者任何我不希望进入第三方云端调查体系的内容,我不会再把 Claude Code 作为默认选择。

这并不意味着 Anthropic 做错了什么。恰恰相反,这份报告说明它的安全团队很强,也说明它在认真打击滥用。

只是从用户的角度,我开始意识到:一个平台越有能力理解我在做什么,它就越不可能只是一个“什么都不知道的工具”。

Claude你还敢用吗?

所以这一次,我的答案和以前不太一样。

我不会今天就把 Claude 卸载掉,但会慢慢把它从“默认工具”降成“按场景使用的工具”。普通任务继续用,敏感项目退出 Claude。随着 DeepSeek V4.1 Flash 这样的开放权重模型越来越能打,DeepSeek Harness 这样的开放工具也开始补上 Agent 能力,我已经没有以前那么强的理由,把最敏感的开发上下文继续交给一个云端闭源 Agent。

过去我愿意用更多数据和权限,换 Claude Code 的效率。

现在这笔交换对我来说,已经没有那么划算了。

所以,可能真的是时候慢慢和 Claude 说 bye bye 了。

Claude最新Playbook里,真正重要的不是AI写代码,而是公司开始变得“机器可读”

8月21日,Anthropic发布了一份《The AI-Native SDLC Playbook》。我原本以为这又是一篇Claude Code最佳实践,真正读完以后,最让我在意的反而是开头那句话:Code is no longer the bottleneck,代码已经不再是瓶颈。

这句话放在两年前多少有点夸张,但放在Anthropic自己身上已经不完全是宣传。截至今年5月,Anthropic称超过80%的合并代码由Claude编写;到了2026年第二季度,典型工程师每天合并的代码量大约是2024年的8倍。这里当然要注意,代码行数不等于生产率,Anthropic本身也是最适合Claude Code发挥的特殊样本,但至少说明一件事:当写代码这件事真的突然快了几倍以后,原来围绕“人写代码”建立起来的那套软件开发流程,开始跟不上了。

我自己做AI产品时也有类似感受。现在日常开发里,绝大部分代码已经交给Coding Agent完成,DoseLoop甚至做到了没有手写代码。模型会不会写一个页面、改一个API,对我来说已经很少是最耗时间的问题。更费时间的往往是先把需求想清楚,告诉Agent为什么这么做、哪些地方不能动,最后再判断它交出来的东西到底是不是我真正想要的。

所以这份Playbook真正有意思的地方,不是Anthropic又教大家怎样多生成一些代码,而是它开始处理代码之外的部分:Plan、Design、Build、Test、Deploy、Maintain,整条软件开发链路都要重新适配Agent。

当代码变快以后,慢下来的开始是组织

Anthropic设计了一条很具体的链路。一个想法先被写成intent.md,产品负责人确认后,Claude生成spec.md,再由工程师和Claude一起形成plan.md。接下来才是代码和测试,PR合并以后进入部署,生产环境的指标如果越过预设控制线,又可以重新生成一个新的intent.md,进入下一轮循环。Anthropic把它描述成一个从Plan最终回到Plan的连续闭环,每个阶段都留下版本化的artifact,前一个阶段的输出直接成为下一个阶段的输入。

如果只看这些Markdown文件,好像没有什么革命性。企业过去也有PRD、设计文档、Jira、Wiki和各种审批流程。区别在于,以前这些东西主要是写给下一个“人”看的,人会补上下文,会去找同事问一句,也会知道某条规定虽然这么写,但这个项目可能有例外。现在接手工作的可能是Agent,它不会天然知道这些隐含信息。

Spotify今年公开的一组数据很能说明这个变化。超过99%的工程师每周都在使用AI Coding工具,94%认为AI提高了自己的生产率,PR频率提高了76%。结果是,代码生产能力上去了,公司突然多出76%的PR需要处理。Spotify自己的总结也很直接:随着Coding速度提升,瓶颈正在向human decisions转移,他们开始重新决定哪些PR可以自动合并,哪些地方必须留下人的判断。

这其实是AI Coding发展到今天一个很容易被忽略的变化。以前企业提高研发效率,主要是在想怎样让程序员更快地写代码。现在执行能力突然便宜以后,问题变成了:公司能不能足够清楚地告诉Agent,到底应该做什么。

公司经验,开始从“文档”变成Agent的运行环境

我觉得整份Playbook里最重要的内容,其实是CLAUDE.md、Skills、Evals和Hooks这些看上去最不起眼的东西。

Anthropic对CLAUDE.md的定义很有意思:它应该包含一个新员工第一天需要知道的东西,包括构建和测试命令、架构约定,以及团队最常见的错误。它甚至给了一个很实用的规则:Claude同一个错误犯两次,就把纠正方法写进CLAUDE.md。这个文件进入Git,所有人共享,修改它和修改代码一样可以被Review。过去存在于老员工脑子里或者散落在Wiki里的经验,就这样一点点变成Agent每次工作前都会读取的上下文。

Skills再往前走了一步。Anthropic直接把它称为让“institutional knowledge”变得operational的方式。比如公司的安全规范、API设计标准、品牌规则、合规要求,都可以变成带版本控制的Skill,在需要的时候自动进入Agent上下文。Evals则负责另一类更难的问题:怎样判断Agent做得好不好。Anthropic把持续Eval视为AI-native版本的阶段式QA,每次模型、Prompt或者Agent配置发生变化,都可以重新验证结果是否仍然达到原来的标准。

但光告诉AI“应该怎么做”还不够。真正不能违反的规则,Anthropic建议交给Hooks。Hook可以在Claude行动之前直接allow、ask或者block,例如禁止它在修Bug时修改测试文件,或者在没有指定Release Authorization时阻止Production部署。关键规则因此不再只是员工手册里的一句话,而开始变成系统实际执行的边界。

把这些东西放在一起看,我觉得“机器可读”才是这份Playbook里比AI写代码更大的变化。当然,这个词不能理解成把公司的所有规章制度都转成Markdown,而是公司的意图、经验、规范、验收标准和权限边界,正在逐渐被整理成Agent能够读取、系统能够验证,其中一部分还能够直接执行的组织资产。

过去做知识管理,很大一部分目标是让员工在需要的时候“找到答案”。Agent进入工作流以后,仅仅找到答案已经不够,它还需要根据这个答案采取行动。这两者之间的差别,比看起来大得多。

这并不是Claude自己的特殊玩法

如果只有Anthropic在这么做,我会更谨慎地把它理解成Claude Enterprise的一套产品方法论。但我后来又看了一下其他Coding Agent,大家正在往非常相似的方向走。

Cursor的Project Rules保存在.cursor/rules里,可以和代码一起版本控制,用来记录项目领域知识、工作流程和架构约定。GitHub Copilot现在也支持repository instructions、path-specific instructions,以及AGENTS.mdCLAUDE.mdGEMINI.md这些Agent instruction文件。换句话说,不同公司的模型和Agent可以不一样,但代码仓库里正在出现一层新的内容:除了给编译器和人看的代码,还要有一套长期、可复用的说明告诉Agent“我们这里是怎么工作的”。

Spotify的实践更能说明为什么这件事最终不只是几个配置文件。它发现,在技术栈和设计模式比较统一的代码库里,Claude表现明显更好;代码越碎片化,Agent效果越差。Spotify还把内部Backstage平台的能力通过MCP和命令行开放给Agent,让它能够查询一个组件归谁负责、读取相关文档,甚至在Slack里找到对应团队。过去为人类开发者建设的标准化和内部平台,突然也变成了Agent工作的基础设施。

这也解释了为什么同一个模型放进不同公司,效果可能完全不同。过去那些看起来只是工程洁癖的事情——统一技术栈、清晰的组件归属、可靠文档、可运行测试和明确权限——到了Agent时代,都开始直接影响模型表现。AI并没有绕开组织工程,反而会把原来含糊和混乱的地方放大出来。

这让我更倾向于认为,所谓AI-native公司,不能只看员工装了多少AI工具,或者多少代码由AI生成。模型本身会越来越容易获得,Claude、Codex、Gemini或者未来别的模型都可以换,但一家公司的客户知识、产品逻辑、历史决策、安全边界、工作习惯和Eval体系不会跟着模型一起买回来。

过去我们讨论Context Engineering,更多是在讲怎么给一个Agent准备更好的上下文。现在它可能正在慢慢变成一种Organizational Engineering:公司要开始认真管理“我们到底知道什么,以及怎样把这些东西提供给机器”。

机器可以读懂规则,但公司仍然需要人决定规则

当然,我并不认为公司最后真的可以把自己全部写成代码。Anthropic自己的Playbook其实也一直在提醒这条边界。

intent.md需要产品负责人确认,spec.md仍然由人签字,高风险改动要交给技术负责人,Production部署即使已经自动化到最后一步,也要求Release Manager授权。Anthropic明确写道,需要判断的决定仍然由人负责;Agent可以一路工作到Production Gate,但不能自己越过这个Gate。

原因并不复杂。很多组织里最有价值的知识,本来就很难完全说清楚。一个客户嘴上说想要某个功能,他真正愿不愿意买;两个产品方案都符合规范,哪个更符合公司的长期方向;安全、体验和收入发生冲突时应该牺牲哪一个,这些问题很难靠一个Skill或者Eval完整表达。

所以我更愿意把“机器可读公司”理解成一个方向,而不是终点。Agent越能执行,公司越需要区分三件事:哪些经验应该被写出来让机器读取,哪些规则必须变成系统强制的边界,哪些判断仍然需要留给人。

回到Anthropic那句“Code is no longer the bottleneck”,我现在觉得它真正提醒企业的可能不是赶快让AI再多写一点代码。当执行越来越容易,隐藏在组织内部那些过去可以靠人自己补全的模糊信息,会越来越明显地暴露出来。

一家公司的数字化,过去主要是把客户、订单、库存和流程变成机器可以记录的数据。Agent时代又往前走了一步:机器开始参与行动以后,公司还得把“我们为什么这么做、通常怎么做、什么算做好、什么绝对不能做”讲清楚。

AI越能工作,公司可能越要先学会把自己说清楚。真正开始变得“机器可读”的,也不是公司本身,而是这家公司究竟是怎样运转的。

Anthropic CEO Dario Amodei说AI 5—10年能治愈大多数疾病,但谁有权踩刹车?

最近 Anthropic CEO Dario Amodei 和投资人 Gavin Baker 在 X 上吵了一场,我觉得这场争论比“AI 到底会不会取代工作”更值得看。

事情最早来自 All-In Podcast。Baker 批评 Dario,这些年他不断强调 AI 可能带来的灾难性风险,客观上正在帮助美国社会形成越来越强的 AI 反弹,特别是围绕数据中心的抵触。考虑到 Anthropic 已经成为全球最重要的 AI 公司之一,Baker 甚至建议 Dario 应该成为一个更加积极的 AI 行业倡导者,而不是继续告诉公众这项技术有多危险。

Dario 随后罕见地写了两篇很长的回复。他不同意自己只讲风险,反而重新提起了 2024 年那篇《Machines of Loving Grace》:如果足够强大的 AI 出现,人类有可能把未来 50—100 年的生物医学进步压缩到 5—10 年,甚至“治愈大多数人类疾病”。他还承认,这个说法听上去不仅普通人会觉得疯狂,连生物学家都会觉得疯狂——而他自己以前就是做生物学研究的。

这句话当然很夸张。但真正让我感兴趣的,不是 Dario 到底有没有吹牛,而是它把一个过去很容易被忽略的问题摆到了桌面上。

如果 AI 发展得太快,可能带来网络攻击、生物安全、模型失控以及其他现在还难以评估的风险;但如果 AI 真的能够大幅加速科学研究和药物研发,那么让它慢几年,同样不是没有代价。某些原本能够更早出现的药物和治疗,会不会因此晚几年到来?

到了这一步,“AI 应该快一点还是慢一点”就不再只是科技公司的产品节奏问题了。真正的问题变成了:谁有权踩油门,谁又有权踩刹车?

一、这不是“乐观派”和“悲观派”的争论

如果只看表面,很容易把 Baker 归到“加速派”,把 Dario 归到“安全派”。但认真看两个人说的话,会发现并不是这样。

Baker 并不否认 AI 的风险。他真正担心的是另外一种错误:因为不断强调最坏情况,社会最终形成过度反应,把 AI 基础设施、模型发展甚至那些真正有价值的科学应用一起压慢。

这种担心并非完全没有现实基础。Reuters/Ipsos 今年 6 月的一项调查显示,只有 33% 的美国人支持目前 AI 数据中心快速建设的速度,64% 反对,77% 担心数据中心最终推高电价。到了 8 月,宾夕法尼亚州已经收紧数据中心的审批规则,要求提高环境和项目透明度,并增加当地社区的参与。

但如果因此把美国今天的数据中心反弹归因于 Dario 的“AI 风险宣传”,明显又说过头了。普通人反对数据中心,很大一部分原因就是电价、用水、土地和当地能够得到多少就业与税收,这些都是非常现实的利益问题。

Dario 的立场其实也远比“让 AI 慢下来”复杂。他今年 6 月发表《Policy on the AI Exponential》,主张最前沿的模型应该接受强制第三方测试;如果模型在网络攻击、生物武器、模型失控或者自动化研发等方面跨过严重风险门槛,政府甚至应该有能力阻止或者撤销部署。

可是在同一篇文章里,他马上又把方向反了过来:到了生物医学,他认为真正值得担心的反而是 FDA、EMA 这样的监管体系太慢,跟不上 AI 可能带来的药物研发速度。

也就是说,同一个 Dario,一边想给 AI 踩刹车,一边又想拆掉新药路上的一些刹车。

这看起来矛盾,其实恰恰说明了问题:AI 根本不存在一个统一的速度。

二、AI真正没有的,是一个总开关

我们平时说“AI 发展太快”,其实把很多完全不同的事情混在了一起。

模型训练得有多快,是一件事;模型什么时候公开,是一件事;数据中心建多少,是一件事;AI 在企业里扩散多快,是一件事;AI 帮科学家寻找一个新的药物靶点,又是另外一件事。

这些速度为什么一定要一样?

Dario 自己的政策建议其实就是一个很好的例子。对于 frontier model,他希望更加谨慎,因为一次发布就可能把新的网络攻击、生物能力直接扩散出去;但到了生物医学,他担心的却是监管系统成为瓶颈。他甚至预计,如果 AI 大幅增加候选药物数量,今天按照传统节奏运行的审批体系很可能被“塞满”。

这个问题确实存在。FDA 过去给出的药物研发资料显示,从首次人体试验到批准,平均可以接近十年,而进入临床试验的药物最终真正获批的比例不到 10%。人体实验、长期安全性、剂量和疗效验证,都不像写代码一样可以通过增加 GPU 把速度无限提高。

而且就在今年 8 月,《Nature Reviews Drug Discovery》刚发表了一篇对 AI 药物研发非常克制的综述。作者认为,AI 在 Drug Discovery 里已经研究和应用了很多年,但真正能够证明它提高了临床成功率、让更安全有效的新药更快到达患者手里的证据,目前仍然非常有限。很多所谓 AI Drug 依然停留在临床前或者一期、二期,进入三期的还很少。

甚至 Anthropic 自己今年做的生物 Agent 研究也暴露了类似问题。让最先进的 AI Agent 直接从 NCBI Virus 这样的生物数据库获取病毒序列,准确率仍然达不到科研所需要的可靠程度;直到研究人员加入一个确定性的专用检索工具,准确率才提高到 90% 以上,最高达到 99.7%。

所以我并不认为“AI 五到十年治愈大多数疾病”可以直接当成一个医学预测。Dario 原来的表述其实还有一个经常被忽略的前提:这 5—10 年不是从今天开始计算,而是从他定义的 Powerful AI 出现以后开始。那个 AI 在他的想象里,已经相当于一个“装在数据中心里的天才国家”。

但即使把这个预测打很大的折扣,问题依然存在:当 AI 开始真实提高科研效率以后,减速也会产生机会成本。

三、踩油门和踩刹车,都在使用别人的风险预算

我觉得这才是这场争论真正有意思的地方。

一家 AI 公司决定提前半年发布一个更强的模型,获得收入、估值和市场份额的是公司自己;但如果模型增加了网络攻击、生物滥用或者其他社会风险,承担后果的显然不只是公司股东。

可反过来也一样。如果监管者因为一个尚未发生的风险,决定把某一类 AI 技术延迟几年,监管者自己同样不会承担全部成本。成本可能落在创业公司、普通开发者、科研人员身上,如果 AI 最终真的能够加速药物发现,也可能落到未来本可以更早得到治疗的患者身上。

换句话说,无论踩油门还是踩刹车,本质上都可能是在使用别人的“风险预算”。

所以我不太赞成一个很常见的答案:既然 AI 公司有利益冲突,那么交给政府决定就好了。这实际上只是把权力从一群人转给了另一群人。

AI 公司当然不能成为判断自己模型是否安全的唯一裁判,Anthropic 自己现在公开支持的也是这一点,认为影响如此大的技术不能只由行业自行治理。 但政府同样会犯错,也会受到政治周期、公众情绪和产业游说影响。如果合规门槛最终变得极其昂贵,它甚至可能成为现有 AI 巨头最好的护城河,因为真正能够负担这套成本的,恰好还是那几家公司。

所以真正的问题从来不是“公司还是政府”。

而是,谁应该决定哪一部分。

四、真正需要拆开的,是决定AI速度的权力

如果一定要给出一个我现在更倾向的答案,我觉得未来的 AI 治理不会,也不应该有一个“总刹车”。

法律首先应该决定边界。比如生物武器、大规模网络攻击、模型失控这类一旦发生可能影响整个社会,而且很难逆转的风险,显然不能完全交给一家公司的商业判断。

但是模型到底有没有跨过这条线,应该尽可能变成可以重复验证的技术问题,由独立第三方评测,而不是 CEO 在发布会上说一句“我们认为安全”,也不是某个政客凭感觉认为“这个东西很危险”。这其实也是 Dario 现在推动 frontier model 第三方测试的核心逻辑。

只要模型没有达到这些高风险阈值,企业仍然应该保留正常的技术和产品决策权。否则每一次模型升级都要经过漫长审批,最后最可能出现的结果并不是 AI 更安全,而是大公司越来越安全,小公司越来越难进入。

到了下游应用,逻辑还应该再反过来。医疗、材料、能源这些能够产生明确社会收益的领域,不应该因为 frontier AI 需要更严格的监管,就沿用同一套减速逻辑。如果未来 AI 真的能够显著提高药物研发成功率,那么临床试验设计、数据基础设施甚至审批制度都应该随着证据改变。

这里真正重要的不是经常被说烂的“发展与安全要平衡”。

而是把速度拆开,也把决定速度的权力拆开。

五、我们可能永远找不到一个正确的AI速度

当然,这套思路也没有解决最难的问题:我们可能根本不知道那条风险线应该画在哪里。

Dario 可能严重高估了 AI 对生物学的推动,Baker 也可能低估能力快速扩散产生的风险。AI 公司会判断错,监管机构同样会判断错。

所以我现在反而觉得,一个好的制度最重要的能力,可能不是第一次就把速度定对,而是能够随着新的证据快速纠错。风险越不可逆,门槛就应该越谨慎;风险越容易验证和回滚,就越没有必要提前阻止。规则本身也应该不断复审,而不是因为今天担心一种风险,就把它永久写进制度。

Anthropic 自己的 Responsible Scaling Policy 从 2023 年推出到现在已经连续修改,2026 年 7 月已经更新到 3.4 版。这至少说明一件事:就连目前最积极讨论 AI Safety 的公司之一,也不认为我们今天已经知道未来所有问题的答案。

Dario 在这场争论里还提到了一件很私人的事情。他的父亲死于丙型肝炎,而几年以后出现的直接作用抗病毒药 Sofosbuvir,可以治愈大约 95% 的患者。他说,如果这种药早几年出现,很可能就能救下自己的父亲。

我觉得这可能也是为什么他会同时表现出两种看起来非常矛盾的态度:一方面极度担忧 AI 的风险,另一方面又对 AI 加速生物医学抱有近乎激进的期待。

我不知道 AI 能不能在五到十年内治愈大多数疾病,我甚至觉得这个时间表很可能过于乐观。但如果未来 AI 确实能够把一些药物和治疗提前几年,那么我们今天讨论 AI 安全时,就必须同时承认另一件事:踩刹车也不是一个零成本的选择。

所以真正需要讨论的,已经不是“AI 应该快一点还是慢一点”。

而是什么应该快,什么应该慢;谁有权让它慢下来,又必须拿出什么证据;如果踩错了油门或者刹车,最后是谁承担代价。

如果 AI 最终没有 Dario 想象得那么强,这些问题可能显得太早。但如果它真的有一天开始接近他所说的那个“数据中心里的天才国家”,到那时再讨论谁有权踩刹车,可能就已经太晚了。

Claude开始给文字加“隐形水印”,它写的代码也有吗?

这两天,Anthropic公布了一项很容易被忽略、但可能影响所有Claude用户的变化:Claude开始引入文本数字水印。更准确地说,Anthropic在8月14日宣布,未来Claude模型生成的文本将带有水印,旧模型则会在未来几个月逐步加入。直接原因是欧盟《AI Act》第50条已经从8月2日起适用,要求生成式AI提供商为AI生成或修改的内容加入机器可读标记;Anthropic决定在推出时全球应用。

看到“数字水印”,很多人的第一反应,大概是Claude会不会偷偷往文字里塞一些看不见的字符。但对我来说,更有意思的是另一个问题:Claude生成的代码也有水印吗?现在大量开发者已经把Claude Code直接放进真实的软件开发流程。如果代码也带着Claude的“指纹”,会不会影响代码质量,提交到GitHub以后,别人又能不能反查出是谁生成的?

答案是:Claude生成的代码也处在这套水印机制之下,但代码里的水印通常比自然语言少得多。理解为什么,其实也就理解了SynthID-Text到底是什么。

一、Claude的水印,不在文字里,而在“为什么选这个词”里

Anthropic没有重新发明一套水印,而是明确采用Google DeepMind在2024年发表的SynthID-Text方法的一个版本。它不会在文本里插入零宽字符,不增加额外Token,也不是等Claude写完以后,再在里面附上一串隐藏编号;水印发生在模型生成文字的过程里。

大语言模型写一句话,本质上是在不停预测下一个Token。比如Claude已经写出“今天的天空有些……”,后面接“阴沉”“灰暗”“多云”可能都说得通。正常生成时,模型会按照这些Token的概率进行采样;SynthID-Text做的事情,是在几个答案都合理的时候,改变这种随机选择的来源。Anthropic用了一个很形象的比喻:平时玩棋盘游戏靠掷骰子决定走几步,加入水印以后,不再真的掷骰子,而是从圆周率的小数位里依次取数字。对玩家来说仍然像随机数,不影响游戏,但如果事后拿到足够长的一串结果,又知道这套规则,就可能判断这局游戏是不是用了圆周率。Claude的文本也是一样,单独看一个词没有意义,但大量选择积累在一起,就可能形成只有掌握密钥才能检测的统计规律。

这套方法最巧妙的地方,是尽量不改变用户看到的结果。Google DeepMind曾在真实Gemini流量中比较约2000万条带水印和不带水印的回复,点赞率只差0.01%,点踩率差0.02%,差异都没有统计显著性。至少从这项大规模实验看,用户基本感受不到背后的那颗“骰子”被换了。

二、Claude写的代码也有水印,但代码恰恰最难留下水印

这是Anthropic在官方说明中专门回答的问题。SynthID-Text能够工作的前提,是Claude拥有“怎么选都差不多”的空间;如果只有一个明显正确的答案,水印不能为了留下痕迹而故意把答案改掉。比如“2+2=”后面正常答案就是4,代码更是如此:if不能为了留下水印换成不存在的关键字,固定API名称不能随便改,函数参数或者协议字段也不能因为水印而破坏程序。Anthropic明确表示,当替换Token会造成事实错误或者让代码出错时,水印不会施加这种影响。

所以Claude生成的代码不是完全没有水印,而是通常比文章、邮件、故事这些自然语言包含更少的水印信号。真正有发挥空间的地方,例如代码注释,或者某些有多个同样合理表达方式的位置,仍然可能留下水印;但Anthropic认为这种机制对实际生成代码的影响可以忽略。 这其实揭示了SynthID-Text最重要的特点:它不是为了加水印而改变内容,而是在Claude本来就有多个合理选择的时候,顺便利用这些选择留下统计信号,没有选择就不强行留下。

从这个角度再看不同场景就很好理解了。写长文章时,每句话都有大量可以换一种说法的地方,水印容易累积;Claude翻译文章时,输出仍由Claude重新选择,因此Anthropic明确说翻译文本也会带水印;但如果只让它改几个错别字和标点,大部分文字并不是Claude重新生成的,最后可能少到无法可靠检测。事实性回答和代码也是同样的道理:越接近“只能这么写”,水印留下的空间就越小。

对于Claude Code用户,这个结论其实很重要:即使一段代码完全由Claude生成,也不意味着它一定能像一篇长文章那样被稳定识别出来。

三、有水印,也不等于能证明“这是Claude写的”

SynthID-Text和传统AI检测器还有一个根本区别。很多AI检测工具是在文章生成以后,根据句式、词频和语言习惯去猜“像不像AI写的”;SynthID-Text则是模型在生成时主动留下一个只有相应密钥才能验证的统计信号。

但主动留下信号,也不代表它能给一篇文章或者一段代码盖上“Claude原创”的章。Anthropic明确表示,水印最多只能帮助判断Claude是否可能参与过内容生成,不能区分“Claude从头写”和“人写完后让Claude大幅改写”。它也不包含用户、组织或具体聊天的信息,不能通过水印反查是谁生成的,更不能还原Prompt,也不会改变内容所有权。

水印同样不是不可破坏的。轻度编辑通常不会完全消除它,但如果整篇文字彻底重写,水印会消失;Google DeepMind也一直强调,SynthID不是识别AI内容的万能方案。 对代码来说,这个限制更加明显:代码本来就比文章更缺少自由选择,再经过开发者重构、格式化、替换实现以及与其他代码合并之后,想单凭水印准确回答“这段代码是不是Claude Code写的”,会更加困难。

四、真正改变的,不是我们怎么用Claude,而是内容离开Claude之后会发生什么

从普通用户的角度,这次变化几乎是无感的。Anthropic表示,水印不会增加Token,价格不变,对生成速度的影响也可以忽略;Claude Code用户没有必要为了水印改变开发流程,更不用担心Claude为了“留指纹”故意生成另一套更差的代码。

真正值得关注的,是这些内容离开Claude之后。欧盟《AI Act》已经要求生成式AI提供商加入机器可读标记,Anthropic也表示将提供自己的水印检测API。未来学校、媒体、企业或者内容平台,至少从技术上多了一种不同于传统AI Detector的判断方式:不是根据语言风格去猜,而是检查模型在生成时主动留下的信号。

但这里仍然有一道重要边界。检测到Claude参与,不等于证明一篇文章没有人的原创思考;检测到一段代码里存在Claude水印,也不能证明整个软件都是AI写的。一个人自己确定观点、结构和事实,只让Claude润色,与让Claude从头生成文章,在创作责任上显然不是一回事,但水印无法替我们完成这种判断。

过去几年,我们一直在讨论AI能生成什么:文章、图片、视频、代码,越来越像人,也越来越难单纯从结果上区分。现在行业开始补另一层基础设施——这些内容从哪里来,AI到底有没有参与。SynthID-Text远远谈不上解决AI内容识别问题,尤其对代码这种高度受约束的内容更是如此,但Claude开始采用它,还是意味着一个值得关注的变化:AI生成内容开始拥有一种以前纯文本并不具备的“来源信号”。

所以,Claude写的代码有数字水印吗?更准确的答案是:有留下水印的机制,但很多代码能够承载的水印很少,远没有一篇长文章那么容易检测。对于开发者来说,它今天几乎不会改变写代码这件事;但对整个互联网来说,“这段内容有没有AI参与”,正在慢慢从根据文风和感觉的猜测,变成一个可以由生成模型自己提供线索的技术问题。

AI是真的,泡沫也可能是真的:诺奖得主为什么不相信硅谷的叙事

过去几年,如果只看AI模型能力的进步,很容易相信我们正站在一场新工业革命的起点。

从ChatGPT出现,到今天AI可以写代码、制作视频、完成研究、调用工具,甚至独立执行越来越复杂的任务,技术进步几乎肉眼可见。与此同时,OpenAI、Anthropic、Google等公司不断把未来指向AGI,科技巨头投入AI基础设施的资金也从几百亿美元迅速增长到数千亿美元。Google DeepMind CEO Demis Hassabis甚至形容,AI带来的变化可能比工业革命大10倍、快10倍。

但如果AI真的正在以这样的速度改变世界,我们应该已经开始在经济数据里看到些什么。

2024年诺贝尔经济学奖得主、MIT教授达龙·阿西莫格鲁(Daron Acemoglu)对此相当谨慎。在论文《The Simple Macroeconomics of AI》中,他估算未来十年AI带来的全要素生产率增长累计可能只有0.53%—0.66%左右,GDP累计增长在不同假设下约为0.93%—1.56%。

这并不是说AI没有价值。真正的问题是:技术能力的快速提升,并不会自动变成同等规模的经济价值。

一、AI效率提高了,为什么生产率没有起飞?

过去需要一个小时整理的信息,现在可能十分钟完成;一些程序员一天才能完成的工作,现在几个小时就可以交付。类似体验越来越普遍,很容易让人产生一种感觉:AI生产率革命已经发生了。

但阿西莫格鲁认为,从个人效率提升推导到整个经济的生产率爆发,中间还有很长的距离。

今天AI最擅长的,往往是任务边界清楚、结果容易验证、训练数据丰富的工作。一封邮件写得好不好、一段代码能不能运行、一份文档能不能总结,都比较容易判断。但真实经济中的大量高价值工作并非如此。医生处理复杂病例、工程师解决现场故障、管理者判断一个项目是否继续,都包含大量环境信息、隐性知识和责任判断。

即使AI技术上能够完成其中一部分,企业还要考虑数据准备、系统集成、监督以及错误成本。因此,“某项工作快了三倍”和“整个公司生产率提高三倍”从来不是一回事。

按照阿西莫格鲁的估计,目前真正具有经济意义、能够有利可图地实现AI自动化的任务,大约只有整体任务的5%。这个数字未来当然可能继续提高,但至少说明,今天许多宏观预测实际上隐含了一个很强的前提:AI必须很快进入大量现实世界中的复杂任务。

如果这个前提没有兑现,AI依然会是一项非常重要的技术,只是经济价值兑现的速度,可能没有资本市场想象得那么快。

二、工业革命真正的教训,不是“最后大家都会受益”

硅谷很喜欢把AI比作工业革命,这个类比并没有错。但我们今天回望工业革命,往往只看到结局:蒸汽机、铁路和机械化最终大幅提高生产率,人类生活水平也远高于两百年前。

容易被忽略的是,这个过程并没有迅速惠及所有人。

经济史上有一个著名的“恩格斯暂停”(Engels’ Pause):工业革命早期,英国劳动生产率已经明显提高,但普通工人的实际工资在几十年间增长非常缓慢。机器提高了产出,并不意味着技术收益会自动流向劳动者。

后来随着资本积累、劳动力市场变化,以及工会、劳动立法和公共制度逐渐完善,生产率提升才越来越广泛地转化为生活水平改善。

这段历史对今天AI真正有意义的启示,不是“机器以前也抢过工作,所以不用担心”,而是:技术能够创造多少财富,与这些财富最后由谁获得,是两个不同的问题。

阿西莫格鲁尤其担心,今天AI的发展越来越集中于Automation,也就是用机器完成原本由人完成的工作。自动化当然能够降低成本,也能够提高生产率,但如果创新主要围绕“如何用更少的人完成同样的事情”,企业得到的主要是成本下降,而不是新的产品、服务和需求。

今年他与David Autor、Simon Johnson提出“Pro-worker AI”,强调另一条技术路线:AI不仅替代已有任务,更应该让普通人获得过去只有专家才能拥有的能力,并创造新的工作和任务。

这也是过去真正重要的通用技术产生巨大经济价值的方式。汽车最大的价值不是让马车夫效率更高,而是创造了制造、维修、公路、物流等整个产业;互联网最大的价值也不是让人写信更快,而是后来出现了搜索、电商、云计算和移动支付。

如果AI最后最大的用途只是“让五个人完成过去十个人的工作”,它当然仍然有价值,但可能远远没有发挥这项技术真正的潜力。

三、GPU不是光纤,AI泡沫和互联网泡沫并不完全一样

对于今天巨大的AI资本投入,一个常见的辩护是互联网泡沫。

2000年前后,大量公司同样疯狂投资网络基础设施,电信企业铺设了远超当时需求的光纤。泡沫最终破裂,无数公司倒闭,但互联网没有失败。相反,当年留下的一部分基础设施后来继续被使用,最终支撑了搜索、电商、视频和云计算的发展。

于是有人认为,即使今天AI也存在投资泡沫,只要技术方向是对的,现在多建设一些数据中心、多购买一些GPU,未来迟早都会用上。

阿西莫格鲁在访谈里提醒了一个很容易被忽略的问题:GPU不是光纤。

当年埋到地下的光纤,即使建设它的公司破产,仍然可以使用很多年。但GPU属于另一类资产,它不仅存在物理折旧,还有非常明显的技术折旧。新一代芯片性能更高、功耗更低,同样完成一次训练或者推理任务,成本可能越来越低。于是旧GPU即使还能正常工作,它的相对经济价值也可能迅速下降。

这意味着,如果今天整个行业高估了未来几年的算力需求,留下来的未必是一批可以低成本使用十几年的基础设施,其中相当一部分可能是正在快速失去成本竞争力的计算设备。

这并不意味着今天建设数据中心是错的,旧GPU也不会几年后就全部失去价值。但它改变了一个重要的投资逻辑:AI基础设施必须更快产生足够大的商业回报。

而这恰恰是今天AI行业最值得讨论的问题。

AI商业化当然已经发生,模型公司收入也在快速增长。真正的问题不是“AI有没有收入”,而是这些收入未来能不能支撑整个行业数千亿美元规模的资本投入,并最终产生与之匹配的利润和生产率。

互联网最后成功了,并不代表2000年投资互联网的每家公司都成功。当年的技术革命是真的,投资泡沫也是真的。

AI完全可能重复这种情况。

AI是真的,泡沫也可能是真的

我们经常把“AI是不是泡沫”理解成一个非黑即白的问题。相信AI最终改变世界,似乎就必须同时相信今天的资本开支、公司估值和AGI时间表都是合理的;如果质疑今天的投资规模,又很容易被认为是在否定AI。

其实完全没有必要。

AI可以是一项改变世界的技术,同时资本市场也可能高估了它产生经济回报的速度。判断这件事情最终只有一个很朴素的标准:今天投入进去的这些钱,未来究竟能够产生多少真实的收入、利润和生产率。

如果AI真的能够迅速进入医疗、制造、科研和大量复杂工作,让整个经济生产率出现大幅增长,那么今天数千亿美元的投资也许只是开始。但如果阿西莫格鲁的估算更接近现实,未来十年的生产率提升依然相当有限,那么很多按照AGI快速到来进行的投资,就需要重新计算回报。

这也是我认为阿西莫格鲁的观点真正值得讨论的地方。

技术价值、生产率价值和投资价值,本来就是三件不同的事情。

AI越来越好用,并不意味着它马上能够改变整个经济;它最终能够改变整个经济,也不意味着今天投入其中的每一美元资本都能够赚回来。

而比判断有没有泡沫更加重要的问题,是我们最终准备把AI用在哪里。如果AI只是帮助企业用更少的人完成同样的事情,我们得到的可能主要是成本下降;如果AI能够让医生解决过去解决不了的问题,让工人掌握过去只有专家才有的能力,让科学家发现新的药物和材料,它才真正可能创造过去不存在的价值。

到那个时候,AI带来的经济增长也许会远远超过阿西莫格鲁今天那个保守的预测。

但这仍然不能证明今天所有关于AGI、资本开支和估值的故事都是对的。

互联网时代已经证明过一次:

技术革命是真的,泡沫也可以是真的。

Claude Code的创造者Boris Cherny:当AI开始包办写代码,开发者真正该学什么?

最近,Y Combinator采访了Claude Code的创造者Boris Cherny,话题从Anthropic最新发布的Opus 5,一直谈到Claude Code的设计哲学,以及AI Agent正在如何改变软件开发。

访谈中有很多值得关注的内容。例如,随着模型能力提高,Claude Code已经删除了大约80%的系统提示词;开发者也不应该再像过去那样,把任务拆成非常详细的步骤交给模型,而应该告诉它目标、边界和完成标准,然后给它足够的空间自己寻找解决方案。Boris认为,很多人仍然在用半年前的方式使用今天的模型,过度限制AI,反而无法发挥它真正的能力。

但这场访谈里,最让我感兴趣的并不是Opus 5又能连续工作多久,也不是Claude Code未来可以同时调度多少个Agent,而是Boris给开发者和计算机专业学生的建议。

他的建议不是多学习几种编程语言,也不是研究更复杂的提示词,而是尽快使用这些工具,同时努力成为一个更全面的人。除了计算机和软件工程,还应该理解产品、设计、商业、数据分析,并且学会与用户交流。

在Boris看来,未来回报最高的,不只是那些熟练使用AI工具的人,而是那些知识面更广、能够跨越多个专业,并且理解自己究竟在解决什么问题的人。

这实际上提出了一个比“程序员会不会被AI替代”更现实的问题:当AI已经开始包办越来越多代码,今天仍在学校学习计算机的学生,究竟还应该学什么?

一、代码正在从核心能力变成基础设施

过去几十年里,软件开发一直有一个很高的门槛。一个人即使有很好的产品想法,也必须先学会编程语言、开发框架、数据库、服务器和各种工程工具,才有可能把想法变成可以运行的软件。

正因为实现成本很高,能够写代码本身就是一种稀缺能力。企业需要大量程序员,不只是因为软件需求很多,也是因为每一项需求都需要人把它转化为具体代码。

AI Coding正在改变这件事。

Boris此前曾说,对他自己的工作而言,编程已经在很大程度上成为一个“基本解决的问题”。他从2025年11月开始就没有再手工修改代码,每天提交的十几个甚至几十个PR,全部由Claude Code完成。我们当然不能因为Claude Code的创造者不再亲自写代码,就认为所有软件工程问题都已经解决,但这种变化至少说明,在最熟练使用AI工具的人群里,软件开发的工作方式已经完全不同。

我自己这两年使用AI Coding,也有非常明显的感受。过去需要花费大量时间查文档、寻找API、调试语法错误的工作,现在大部分都可以交给AI完成。即使面对一个不熟悉的开发框架,也不再需要先系统学习几个月,才敢开始做项目。

目前我的日常开发里,95%以上的代码都是AI编写的。真正需要我手工修改的代码已经非常少,很多时候,即使发现了问题,我也不会直接打开文件修改,而是把问题、预期结果和相关上下文交给AI,让它自己定位并完成调整。在开发DoseLoop,也就是“用药有数”这款App时,AI完成了100%的代码。我没有手写其中任何一行代码。

这并不意味着软件开发变得没有难度,而是难度正在发生转移。过去最困难的是如何把一个方案写成代码,今天越来越困难的是如何把问题说清楚,怎样设计系统,以及如何确认AI完成的结果是正确的。

代码不会消失,但它正在变得越来越像云服务器、电力和互联网:非常重要,却不再是只有少数专业人士才能掌握的资源。

二、计算机基础仍然重要,但学习它的目的变了

每当讨论AI Coding,就会出现一种很极端的观点:既然AI已经可以写代码,学生就没有必要再学习数据结构、算法、操作系统和数据库了。

我并不认同这种看法。

AI可以生成代码,不等于它生成的每一种方案都是正确的,更不等于使用者可以在完全不了解软件系统的情况下,长期维护一个复杂产品。一个人如果不理解数据库事务,就很难发现数据一致性的问题;不理解网络和并发,就无法判断一个系统为什么在用户增加后崩溃;不理解安全,就可能把AI生成的漏洞直接部署到生产环境。

计算机基础仍然是开发者判断系统是否合理的前提。变化在于,过去学习这些知识,主要是为了亲手完成实现;未来学习这些知识,更多是为了理解、设计和判断。

以前考试会要求学生在白纸上写出排序算法,是为了证明他有能力把算法实现出来。未来真正重要的,也许不再是能否凭记忆写出每一行代码,而是能否理解不同算法的成本,知道什么情况下应该使用它,以及能够判断AI生成的实现是否存在问题。

基础知识正在从一种生产技能,逐渐变成一种判断技能。

这和计算器出现以后,人们仍然需要学习数学是一样的。计算器替代了大量手工计算,却没有降低数学思维的价值。恰恰因为计算变得便宜,人们才有机会处理更复杂的问题。

AI对编程也会带来类似的变化。手工编写代码的比例会下降,但理解计算机系统、拆解复杂问题和判断技术方案的能力,反而会更加重要。

三、真正最先贬值的,是语法和工具熟练度

过去,一个开发者的职业竞争力经常表现为熟悉多少种语言、使用过多少框架,或者能否熟练记住某个工具的各种命令。

这些能力不会突然失去作用,但它们的价值正在快速下降。

编程语言、开发框架和工具,本来就是为了把人的意图转化为机器能够执行的指令。当AI可以完成这种翻译以后,熟记大量语法和API的意义自然会降低。

一个学生花几个月背诵某个框架的用法,可能还没有真正掌握,框架就已经更新了。即使他全部记住,AI也可以在几秒钟内查阅完整文档,并生成符合当前版本的代码。

真正能够长期保留价值的,不是某一种工具的具体操作,而是工具背后的原理。例如,为什么前端需要状态管理,为什么数据库需要索引,为什么大型系统需要异步任务,以及不同技术方案之间存在什么取舍。

这也是未来计算机教育需要改变的地方。学校当然还要教学生写代码,因为不经过实际编程,很难真正理解软件是如何运行的。但学习重点不应该停留在“能否写出来”,而应该进一步走向“为什么这样设计”“还可以怎样实现”以及“这种方案会产生什么后果”。

AI可以替代语法记忆,却不能自动替代一个人的系统理解。

四、找到值得解决的问题,比写出代码更难

当实现软件变得越来越容易,真正的瓶颈就会向更上游移动。

过去,很多产品没有出现,是因为开发成本太高。一个普通人即使发现了问题,也很难组织一支包括产品、设计、前端、后端和测试人员的团队,把它做成完整产品。

现在,一个人借助AI就可以完成过去一支小团队的工作。原型可以在几小时内完成,一个小型应用可能几天就能运行,技术实现不再是最难跨越的门槛。

但产品数量增加,并不意味着好产品也会按相同比例增加。

AI可以帮助开发者迅速实现一个功能,却无法自动回答用户是否真的需要这个功能;可以根据要求设计一个界面,却很难替代长期积累形成的审美和对用户行为的理解;也可以生成完整的商业计划,但不能保证用户愿意付钱。

当代码变得便宜,最稀缺的能力就不再是把需求实现出来,而是判断什么需求值得实现。

这需要开发者走出代码编辑器,理解真实世界中的人是如何工作、生活和作出选择的。一个医疗应用需要理解患者、医生和医院的实际流程;一个旅游产品需要理解游客在陌生环境中的焦虑和决策方式;一个企业软件则必须理解组织内部复杂的利益关系和业务规则。

这些知识不会自动存在于计算机专业的课程里,却决定了软件最终有没有价值。

未来最危险的情况,可能不再是开发者做不出产品,而是在AI帮助下,用非常高的效率做出一个没有人需要的产品。

五、产品、设计和商业,不再只是管理者的能力

在传统软件公司里,分工通常非常明确。产品经理负责定义需求,设计师负责界面和交互,程序员负责实现,市场和销售负责把产品卖出去。

这种分工建立在一个前提上:每个专业领域都有较高的执行成本,一个人很难跨越多个岗位完成全部工作。

AI正在降低这些专业之间的执行门槛。

产品经理可以直接让AI做出原型,设计师可以自己修改前端代码,开发者也可以完成需求分析、界面设计和数据分析。在Claude Code团队里,不只是工程师写代码,产品经理、设计师、工程管理者、数据科学家甚至财务人员也在写代码。Boris认为,工程、产品和设计之间已经出现了大量重叠,未来“软件工程师”可能逐渐变成更宽泛的“Builder”。

这并不意味着所有人都要成为每个领域的专家,而是说,只掌握单一执行技能的人会越来越容易受到AI影响。

一个优秀开发者仍然可以在基础设施、数据库或者安全领域拥有很深的专业能力,但他还需要理解这些技术最终服务于什么产品,用户为什么需要它,以及企业为什么愿意为它付出成本。

专业深度依然重要,只是专业深度必须与更广泛的现实理解结合起来。

过去我们经常把产品意识、设计感和商业判断看作程序员的加分项,未来它们可能会逐渐成为基本能力。因为当AI承担越来越多实现工作,开发者剩下的主要职责,就是决定方向、作出取舍并对最终结果负责。

六、学生应该从“完成作业”转向“创造产品”

传统计算机教育中的很多项目,本质上是在验证学生是否掌握了某项知识。老师规定题目、输入、输出和评分标准,学生只需要在明确边界内完成任务。

这种训练可以帮助学生学习基础知识,却很难培养面对真实问题的能力。

现实世界不会给出完整需求,也没有人提前告诉你正确答案。用户经常说不清自己需要什么,产品上线后会出现完全没有预料到的使用方式,技术方案还要受到成本、时间、安全和组织资源的限制。

因此,AI时代学生最好的学习方式,不只是完成更多编程题,而是尝试做出真正有人使用的东西。

这个产品不必很大,可以是一个解决自己问题的小工具,也可以是为同学、家人或者某个特定群体开发的应用。重要的是把它真正交给别人使用,并观察他们是否理解、是否愿意持续使用,以及产品到底解决了什么问题。

在这个过程中,学生才会发现,写出代码只是产品开发的一部分。他还需要采访用户、整理需求、设计交互、处理异常、保护数据、部署服务,并根据反馈不断调整。

AI可以帮助学生更快完成其中很多工作,但不能代替真实用户带来的反馈。

一个没有用户的课程项目,最多只能证明学生完成了题目;一个有人愿意持续使用的小产品,才能证明他理解了问题,并且有能力把技术转化为现实价值。

七、AI时代需要的不是更少学习,而是学习更多

有人可能会认为,既然AI已经能够承担大量工作,学生需要学习的内容应该越来越少。

实际情况很可能正好相反。

过去,程序员只要深入掌握一个技术领域,也可以找到相对稳定的位置。未来,纯粹的代码实现越来越容易被AI完成,开发者需要理解的范围反而会扩大。

他不仅要理解技术,还要理解产品;不仅要能够调用AI,还要能够验证AI;不仅要知道系统怎样运行,还要知道用户为什么使用、企业如何持续经营,以及技术可能给社会带来什么影响。

这并不是要求每个学生都成为全才,而是要建立一种跨领域学习的能力。一个人的核心专业仍然可以是软件工程,但他不能把自己限制在代码以内。

Boris给学生的建议,本质上不是放弃计算机科学,而是不要只学习计算机科学。他认为,最优秀的工程师往往同时具备其他能力:有人兼具产品和基础设施经验,有人具有很强的设计感,有人理解商业,也有人愿意长期与用户交流。

这种变化并不只属于计算机专业。随着AI进入设计、写作、金融、法律和科研,几乎每个专业都会面对类似问题:当AI可以完成本专业的大量执行工作,人还能提供什么价值?

答案不会是比AI执行得更快,而是提出更好的问题、作出更可靠的判断,并承担AI无法承担的责任。

八、会写代码依然重要,但只会写代码已经不够了

我不认为计算机专业会因为AI Coding出现而失去价值,软件也不会因为代码生成成本下降而减少。相反,当更多人拥有创造软件的能力,软件会进入更多行业,解决更多过去不值得开发或者无法开发的问题。

就像印刷术没有让写作消失,而是让阅读和写作进入更广泛的人群;摄影没有让艺术消失,而是改变了艺术的表现形式;电子表格也没有消灭会计,而是让企业可以处理更多数据。

AI Coding同样不会简单地消灭程序员,它会扩大能够创造软件的人群,同时重新定义专业开发者的价值。

过去,程序员的优势是能够把想法变成代码。未来,这项能力会被越来越多人拥有,甚至不需要他们真正理解每一行代码。

专业开发者的优势,将变成能够理解复杂系统、识别真正的问题、设计可靠的方案、判断AI的结果,并把技术、产品、用户和商业连接在一起。

所以,当AI开始包办写代码,计算机学生当然还应该学习编程,也应该学习算法、数据库、网络和操作系统。但不能再把学习的终点放在“找到一份写代码的工作”上。

更重要的问题是:你准备使用这些技术解决什么问题?你是否理解这个问题背后的真实世界?你能否判断AI给出的答案是正确的?你做出的东西,是否真的有人需要?

AI没有让学习编程失去意义,它只是让“只会编程”越来越不够。

过去,掌握代码意味着拥有创造软件的资格。未来,这种资格会变得越来越普遍。真正拉开人与人差距的,不再是谁能够写出更多代码,而是谁知道应该创造什么,并且能够让它真正产生价值。

Kimi、GLM和Claude的差距,为什么每个人感受完全不同?

上一篇文章《这次真不慌了,Claude随时可以取消订阅》发出来以后,评论区里有不少读者反馈,在他们的实际使用中,Kimi、GLM、Qwen等国产模型,与Claude相比仍然存在明显差距,有些任务国产模型来回修改几次都做不好,换成Claude之后却很快就能完成。

这些反馈当然不能简单理解为不会使用AI,其中可能有很多同样从事软件开发的人。后来我想了一下,大家的感受之所以如此不同,可能并不是谁高估或者低估了某个模型,而是我们虽然都在谈AI Coding,实际交给AI完成的却不是同一种工作。

模型之间的能力差距真实存在,但不会平均地出现在所有任务中。任务越模糊、链条越长、需要模型自己做决定的地方越多,Claude等旗舰模型的优势越容易被感受到;任务越清晰、拆解越充分、人工控制越强,Kimi、GLM等模型与Claude之间的实际差距就越容易缩小。

同样叫AI Coding,实际可能是完全不同的工作

现在只要使用自然语言让AI修改代码,大家都会把它称为AI Coding,但这里面包含的工作跨度非常大。

最简单的一类,是在现有项目里增加字段、修改页面或补充接口,需求、架构和实现方式都比较清楚,AI主要负责执行。另一类则是让AI进入陌生代码库,自己寻找模块、判断问题并设计修改方案。

再往前一步,有些人给AI的甚至不是一项开发任务,而只是一个产品想法。技术选型、系统架构、数据库设计、模块拆分、测试和部署,全部需要模型与编程Agent自行完成。表面上都是“让AI做一个功能”,背后需要的能力却完全不同。

真正拉开差距的,往往不是一段代码能不能写出来,而是模型能不能在信息不完整时作出正确判断,能不能理解很多文件之间的关系,能不能在执行很久以后仍然记得最初目标,以及第一次方案失败后,能不能找到真正原因,而不是继续在错误方向上打补丁。

Anthropic对Claude Opus 4.6的介绍,重点就放在更谨慎的规划、更长时间的Agent任务、大型代码库以及代码审查和调试能力上;Claude Code本身也不只是聊天窗口,而是一套能够读取代码库、编辑文件和运行命令的完整编程Agent。它的优势不只是代码写得更漂亮,而是在复杂任务中更少走错方向。

模型真正昂贵的能力,是替人做决定

假如需求已经明确,数据结构和接口都设计完成,测试条件也写清楚,那么模型面对的是一道有标准答案的执行题。但如果用户只说“帮我增加一个会员系统”,模型就要自己判断会员分几级、权益如何配置、权限在哪里控制、数据表怎样设计,以及修改失败后如何回滚。后一个任务未必多写多少代码,却包含了更多需要判断的地方。

Claude等旗舰模型的价值,往往就体现在这些判断中。一次正确的架构选择或根因定位,可以省掉很多返工。对于需要AI长时间自主工作,或者无法逐步检查结果的人来说,这种差距会直接转化为成功率和最终质量。

Kimi和GLM也在向这个方向进步。Kimi K3已经把长程编程、百万Token上下文和Agent工作作为主要能力,GLM-5.2同样把长时间任务作为升级重点。国产模型也在努力承担更多原本需要人完成的规划与执行。

但从“能够完成不少编程任务”,到“能够在复杂项目中持续作出正确决定”,中间仍然有距离。也正是在这段距离上,不同人的感受开始分化。

我的开发经验,只是减少了模型需要做的决定

从我自己的使用情况来说,大多数时候确实用不到最强的模型。原因并不是我认为Kimi、GLM已经在所有能力上与Claude相同,而是很多最考验模型的工作,在调用AI之前已经由我完成了。

做一个系统时,我通常会先确定需求是否合理,选择技术方案,划分模块和接口,设计数据结构,再把工作拆成可以独立完成和验证的小任务。交给AI的往往不是“帮我做一个系统”,而是“按照现有架构完成这个模块,并通过这些测试”。

当任务被拆到这个程度,模型需要猜测的内容已经很少。它更像一个执行者,只需要理解局部上下文、遵守已有规则并产出代码。只要模型跨过了基本能力门槛,更强模型增加的推理和规划能力,就不一定能够同比转化成效率提升。有时我真正关心的反而是速度、价格、额度和是否可以随时切换。

这并不意味着开发经验越深,就越感觉不到差距。另一些资深开发者经常处理遗留系统、复杂重构或陌生技术栈,对代码质量要求也更高,自然更容易发现模型之间的差别。

所以,开发经验真正改变的是人与AI如何分工。有的人用经验提前消化了复杂性,让AI在一条比较清楚的轨道上执行;有的人则希望AI进入未知环境,自行寻找道路。即使同样是专业开发者,这两种工作方式也会带来完全不同的评价。

我们使用的不是模型,而是一整套系统

用户实际感受到的“Claude”“Kimi”或“GLM”,通常并不是单独一个模型,而是模型、Agent、上下文管理、工具调用、项目规范以及用户自身能力共同组成的结果。

同一个模型放进不同的编程Agent里,表现可能完全不同。Agent怎样搜索代码、什么时候压缩上下文、如何运行测试、失败后是否回退、能否记住此前决定,都会影响最后结果。2026年的一项Agent Harness研究,在不更换基础模型的情况下,通过改进工具、中间件和长期记忆,把Terminal-Bench 2的通过率从69.7%提高到77.0%;另一项研究也发现,不同Harness会让同一模型每完成一个任务的Token成本相差数十倍。

这说明我们经常把一整套系统的体验,归因到模型名字上。有人说Claude更强,比较的可能是Claude模型加Claude Code的完整能力;有人说国产模型已经够用,背后可能是成熟的项目规范、清楚的任务拆解和持续的人工检查。

模型比较当然有意义,但进入真实工作后,更合理的比较单位是模型与Agent的组合,以及它在具体约束下能够交付什么结果。

国产AI Coding真正要解决的,是降低对使用者经验的依赖

从开发者角度看,未来未必需要为所有任务都使用最强模型。明确、可验证、执行性强的工作,可以优先考虑速度和成本;模糊、复杂、跨模块和长时间任务,则更值得使用能力更强的旗舰模型。同一个项目里,让不同模型承担不同层级的任务,可能比选择一个“永远最好”的模型更符合实际。

但对国产AI Coding产品来说,仅仅让有经验的开发者觉得“已经够用”,还不是终点。更大的市场来自那些没有能力提前设计架构、拆解任务和检查代码的人。对他们来说,真正需要的不是一个更会写代码的聊天机器人,而是一个能够主动澄清需求、发现矛盾、制定计划、运行测试并在失败后纠正自己的完整Agent。

国产模型与Claude之间真正需要缩小的,也不只是排行榜上的几分,而是结果对使用者经验的依赖程度。即使用户没有把任务描述得非常准确,没有事先搭好架构,也不知道怎样判断生成的代码是否可靠,Agent仍然能够把项目带到一个基本正确的方向,这才是真正降低软件开发门槛。

所以,Kimi、GLM和Claude的差距确实存在,但它不是一个固定数字,更不会在每个人的工作里以同样方式出现。有人测试的是代码执行能力,有人测试的是架构和规划,有人测试的是长时间自主工作,还有人比较的是包含Agent和工作流在内的完整产品。

大家得出不同结论,不一定是谁判断错了,而是他们测试的能力不同。模型是否够用,从来不只是模型单方面的问题,它取决于任务需要模型做多少决定,也取决于人和Agent已经替它解决了多少问题。

1273名前沿AI公司员工突然联名,他们到底在担心什么?

过去几年,几乎每一家前沿AI公司都在同时讲两件事。一方面,它们不断发布更强的模型,投入更多算力,争夺用户、开发者和企业客户;另一方面,它们又不断提醒外界,越来越强的AI可能带来网络攻击、生物安全、就业冲击,甚至人类无法控制的风险。

这两件事放在一起,多少显得有些矛盾。一家公司一边把油门踩到底,一边告诉所有人前方可能有危险,很容易被理解为一种商业策略:既要抢占技术和市场的领先位置,又要把自己塑造成最了解风险、最有资格制定规则的人。

但最近出现的“Pacing the Frontier”声明,还是值得认真看一下。

截至7月30日,来自OpenAI、Anthropic、Google DeepMind、Meta等前沿AI公司的1273名员工签署了这份声明,其中包括OpenAI首席科学家Jakub Pachocki、Anthropic CEO Dario Amodei、Meta AI首席科学家Shengjia Zhao,以及Google DeepMind联合创始人Shane Legg等人。签署行为代表个人立场,并不等于相关公司的正式决定,但OpenAI和Anthropic随后也公开认可了这份声明所讨论的问题。

Pacing the Frontier

声明的内容并不长,也没有要求立即暂停AI研发。它真正提出的诉求,是希望美国政府支持一项国际行动,提前开发必要的技术和治理工具,让人类在有需要的时候,可以有意识地调节自动化AI研发的速度。

这份声明中最值得注意的,其实不是AI可能失控,而是它承认了一件过去很少被前沿AI公司公开说得如此直白的事情:每一家公司和每一个国家,都承受着巨大的竞争压力,没有谁敢单方面放慢速度。

这可能才是当前AI发展中最现实的风险。

一、他们担心的,不只是下一代模型更强

“Pacing the Frontier”讨论的重点,不是ChatGPT、Claude或者Gemini下一次更新会提高多少分,也不是模型能不能写出更完整的代码,而是AI是否即将具备自动化AI研究的能力。

现在的AI已经可以帮助研究人员写代码、查阅论文、分析实验数据、寻找程序错误,但整个研发过程仍然主要由人来决定。人类研究人员提出方向、设计实验、组织训练、判断结果,再决定下一步应该做什么。

如果未来的AI不仅能够执行这些工作,还可以独立提出研究假设、设计实验、修改训练方法、分析失败原因,并根据结果继续改进下一代模型,AI研发的速度就可能发生完全不同的变化。更强的AI帮助开发更强的AI,新模型又进一步提高研发效率,最终形成一个不断加速的反馈循环。

没有人能够准确判断这个过程会以怎样的速度发生,甚至不能确定它一定会发生。声明本身对此也保持了克制,只是说世界领先的AI公司认为,它们“可能已经接近”自动化AI研究,而这种自动化究竟会把AI进步加速多少,目前很难预测。

问题正在这里。假如AI能力仍然按照现在的节奏发展,人类社会至少还有时间适应。政府可以制定规则,企业可以改造业务,学校可以调整教育内容,安全研究人员也可以慢慢寻找模型的问题。但如果研发周期突然从几年缩短到几个月,再从几个月缩短到几周,社会理解和管理技术的速度就可能跟不上技术本身。

这并不意味着AI一定会突然产生意识,或者某一天自行接管人类社会。更加现实的情况是,新的能力不断出现,但人类来不及验证它们是否安全,也来不及建立相应的监督制度。在旧问题尚未解决之前,下一代更强的系统已经开始训练和部署。

二、没有一家AI公司敢自己慢下来

如果所有前沿AI公司都已经意识到这种风险,最直接的办法似乎很简单:大家把研发速度放慢一点,留出更多时间研究安全问题。

但现实并不是这样运转的。

对于OpenAI、Anthropic、Google和Meta来说,模型能力不只是一个科研指标,它还关系到企业客户、订阅收入、云计算业务、开发者生态、资本估值和人才流动。一家公司推迟几个月发布新模型,竞争对手不会因此一起等待。它获得的可能不是更多安全时间,而是用户流失、收入下降,以及技术领先地位的丧失。

国家之间也是如此。AI已经被美国、中国和其他国家视为影响经济、军事、科研和产业竞争力的基础技术。即使一个国家认为AI发展过快可能带来风险,也很难在无法确认其他国家是否会同时减速的情况下,主动限制自己的企业和研究机构。

这形成了一个非常典型的集体行动困境:几乎所有参与者都知道继续加速可能存在危险,但每一个参与者又都认为,自己不能成为唯一放慢速度的人。最后的结果,是所有人只能继续向前。

过去几年,AI公司发布了许多安全框架,建立了红队测试、能力评估和模型发布标准,这些工作当然有价值。但它们始终存在一个隐含前提:安全措施不能严重影响公司的竞争力。一旦安全要求与产品发布时间、市场份额和融资预期发生直接冲突,自我约束究竟能够坚持到什么程度,很难只依赖公司的承诺。

所以,“Pacing the Frontier”才没有要求某一家公司率先暂停,而是把问题交给了政府和国际协调机制。因为签署者显然已经认识到,仅靠企业自愿,很难解决一个由竞争本身造成的问题。

三、真正失去控制的,可能是竞赛机制

我们通常说AI失控,想到的是一个拥有自主目标的超级智能系统。它拒绝人类命令,突破技术限制,开始按照自己的方式采取行动。

但在这样的系统真正出现之前,另一种失控可能已经发生了。

所谓控制,并不只是人类能不能关闭一台服务器,也包括我们能不能决定技术应该以什么速度发展。当所有参与者都知道速度过快可能有风险,却没有任何一个参与者能够主动改变整体节奏时,这场竞赛实际上已经拥有了自己的惯性。

今天的AI发展,表面上是由OpenAI、Anthropic、Google、Meta等公司推动的,但这些公司同样被资本、市场和国家竞争推动着。CEO可以决定某个模型具体在哪一天发布,却很难决定公司在未来两年不再追求更强的模型。因为一旦它停下来,竞争对手就会占据它留下的位置。

每家公司都在做自己的理性选择,最终却可能形成一个所有人都无法接受的结果。这个问题并不神秘,在金融、军备、环境和互联网平台竞争中都曾经出现过。不同之处只在于,AI能力可能提高得更快,影响的范围也更广,而我们现在甚至还没有确定应该在什么情况下减速。

从这个角度看,AI真正失控的,可能首先不是模型,而是围绕模型形成的商业和国家竞赛。模型还在数据中心里接受人类指令,但决定它发展速度的机制,已经不完全服从任何一个人的意志。

四、“Pacing”不是停止,而是保留争取时间的能力

“Pacing the Frontier”容易被理解为要求停止AI发展,但这并不是声明提出的主张。

它没有要求立即暂停模型训练,没有设定半年或一年的期限,也没有反对AI商业化和普通应用。它提出的是一种更有限的能力:当自动化AI研发开始显著加速,或者某些危险能力突然出现时,产业、政府和社会应该能够争取时间,用来分析风险、加强安全措施和建立监督机制。

这与永远停止技术进步是两回事。

一辆汽车不能只有油门,也需要刹车。刹车的存在并不意味着汽车不应该向前,而是驾驶者需要保留调整速度的能力。真正危险的情况,不是汽车开得快,而是驾驶者发现前方出现障碍时,才意识到车上从来没有安装刹车。

现在的问题是,AI行业还没有这样的机制。

我们不知道应该用什么指标判断自动化AI研究已经出现,也不知道哪些能力达到什么程度后需要减速。即使一家实验室发现了风险,又应该如何通知其他公司,怎样确认竞争对手会采取同样的行动,如何避免有人表面暂停、实际继续研发,这些都缺少可执行的答案。

声明要求建设的技术和治理工具,理论上就是为了解决这些问题,包括更可靠的能力评估、前沿模型监测、跨公司信息共享、触发减速的标准,以及国际之间的验证机制。OpenAI回应称,未来AI研发加速到一定程度后,世界可能确实需要调节AI进步的速度;Anthropic也表示,其关于递归式自我改进的研究显示,社会需要提前准备相关工具。

因此,这份声明更像是在提醒政府:不要等到风险真正发生以后,才开始讨论如何争取时间。

五、真正困难的问题,是谁有权踩下刹车

我认同人类应该保留让AI减速的能力,但这并不意味着“Pacing the Frontier”已经解决了问题。相反,它只是把最困难的问题提了出来,却没有给出答案。

首先,谁来定义什么是前沿AI?

如果按照训练算力划分,大公司最容易被纳入监管,但一些使用更高效方法训练的模型可能被遗漏;如果按照模型能力划分,又需要一套稳定、可信而且无法被针对性优化的评估标准。今天的模型在不同任务上的能力并不均衡,很难用一个分数决定它是否已经危险。

其次,谁来决定什么时候需要减速?

这个决定不可能只交给AI公司。企业既是风险信息的主要掌握者,也是监管规则的直接利益相关者。它们当然最了解模型,但也有动机夸大某些竞争对手的风险,或者把只有自己能够承担的合规成本变成行业门槛。

如果未来的前沿AI研发需要复杂的许可证、安全团队、独立评估和高额合规成本,OpenAI、Google和Meta可能仍然有能力继续训练模型,规模较小的公司、大学和开放模型团队却可能被挡在门外。最终,一套以安全名义建立的制度,反而帮助今天的领先者把技术优势固定下来。

这并不是说这些签署者的动机一定是维护垄断。1273名员工来自不同公司,许多人的担忧显然是真实的,而且他们的签名只代表个人观点。问题在于,任何治理方案都会重新分配技术和市场权力,不能因为它使用了“安全”这个正确的理由,就不再讨论谁从中受益。

还有一个更现实的问题:声明请求美国政府支持国际行动,但美国推动的“国际规则”,很难完全脱离美国自身的产业和国家利益。如果治理工具最终主要限制美国以外的企业,或者被转化为芯片、算力和模型能力的出口管制,那么它就不只是AI安全机制,也会成为技术竞争的工具。

人类需要刹车,但刹车不能只掌握在领跑者手中。否则,决定AI发展速度的权力,可能从市场竞争转移到少数公司与政府组成的封闭体系里,普通企业、开发者和社会公众仍然没有真正的参与权。

六、AI不能只有加速这一个选项

我一直认为,AI真正重要的价值,不是生成更多营销文案、替代更多初级工作,而是帮助人类解决过去无法解决的科学问题,包括疾病治疗、新药研发、能源、材料和气候变化。

从这个角度看,我并不赞成因为不确定的风险,就让AI停止发展。技术进步本身不是问题,缺少选择才是问题。

今天的AI竞赛有一种越来越明显的倾向:更强的模型、更大的算力、更快的发布速度,似乎天然就是正确方向。公司担心落后于竞争对手,国家担心失去战略优势,投资者又要求更快看到回报,所有力量最终都指向同一个选择——继续加速。

但一个真正成熟的技术治理体系,不应该只有这一个选项。

我们应该能够在AI帮助人类解决科学和医疗问题时加速投入,也应该能够在某种能力突然跨过风险边界时停下来观察;可以鼓励企业竞争,也要让不同企业在发现共同风险时拥有协调的机制;可以利用前沿公司的技术能力制定规则,但不能把规则完全交给这些公司自己决定。

“Pacing the Frontier”最重要的意义,并不是1273名AI从业者预测了一个一定会到来的灾难,而是他们从这场竞赛内部承认,单靠任何一家公司都无法解决速度问题。

当所有人都想慢一点,却没有人敢先慢下来时,风险已经不只是来自技术本身。

真正值得警惕的,也许不是某一天AI突然拒绝人类控制,而是在人类仍然控制着每一台机器的时候,我们已经失去了控制整个方向和速度的能力。

Anthropic终于谈开源了,但它只说了一半真话

最近,Anthropic专门发布了一份关于开放权重模型的声明,回应外界对其立场的质疑。Dario Amodei在文章中明确表示,Anthropic并不支持全面禁止开放权重模型。对于能力有限、不会带来严重安全风险的模型,开放权重能够促进创新、竞争和用户控制,也可以成为一种有价值的公共产品。

如果只看这些表述,Anthropic似乎终于放下了对开放权重模型的敌意,也愿意承认开放生态的价值。但继续读下去就会发现,它真正改变的只是表达方式,并不是立场本身。

Anthropic可以接受开放权重模型存在,前提是这些模型不能太强。一旦模型能力接近前沿水平,能够在网络攻击、生物研究、自动化执行等领域产生更大影响,它的态度就会迅速改变:模型需要接受强制测试,发布需要设置更高门槛,训练需要受到算力约束,其他国家通过芯片、蒸馏等方式追赶美国模型的路径也应该受到限制。

所以,外界对这份声明最准确的概括是:Anthropic并不反对所有开放权重模型,它只接受能力不太强的开放模型;一旦开放模型接近Claude这样的前沿闭源模型,就应该被严格控制。

这也意味着,Anthropic支持的并不是一种能够真正挑战闭源公司的开放生态,而是一种被限定在安全范围内、也被限定在竞争范围外的开放。开放权重可以作为前沿闭源模型的补充,可以满足研究、教学和部分本地部署需求,却不能成为一种足以改变市场格局的力量。

Anthropic允许开放,但不允许开放模型追上Claude

开放权重模型的价值,并不只是让普通开发者下载一个能力落后两三代的小模型,在自己的电脑上运行一些简单任务。它更重要的意义在于,企业、研究机构和开发者能够获得接近前沿的技术能力,可以独立部署、修改、微调和研究,不必永远依赖少数公司的API,也不必把自己的数据、产品和业务建立在一个随时可能涨价、限额或者改变规则的平台上。

如果最强大的模型永远不能开放,开放生态就很难形成真正的技术竞争。它可以很热闹,可以拥有大量模型、工具和社区项目,但整个行业最核心的能力依然掌握在少数闭源公司手中。开放模型只能跟随闭源模型已经探索过的路线,使用前沿公司允许它拥有的能力,很难真正影响技术发展的方向。

Anthropic的立场恰恰停留在这里。它承认开放权重有价值,却没有准备接受开放模型成为真正的前沿模型。性能不够高时,开放可以促进创新;性能达到前沿水平后,同样的开放就开始被描述为不可逆的安全风险。

这种边界看起来是按照能力和风险划分的,但它同时也划出了一条非常清晰的商业边界:开放模型可以存在,却不能威胁Claude的护城河;可以服务长尾市场,却不能动摇头部闭源公司的定价权;可以成为一种公共产品,却不能成为一种足以重新分配市场利益的竞争产品。

所以,Anthropic真正反对的并不是开放权重这种技术形式,而是前沿能力脱离自己的控制。它担心的也不只是危险模型被滥用,还包括越来越多的开发者和企业不再需要Claude。

安全风险是真实的,但Anthropic不是中立的裁判

必须承认,Anthropic所强调的一些风险并非完全虚构。模型权重一旦发布,确实很难撤回,原有的安全限制也可能被删除。与只能通过API访问的闭源模型相比,开放权重模型能够在私人设备和服务器上运行,模型开发者很难监控它的具体用途。当模型具备更强的网络攻击、生物研究和自动执行能力时,开放发布确实可能带来新的风险。

但承认风险存在,并不意味着必须接受Anthropic给出的解决方案,更不意味着Anthropic天然有资格定义什么是危险、什么样的模型可以发布。

Anthropic首先是一家商业公司,而且是全球最重要的闭源模型公司之一。它依靠模型能力、API调用和订阅服务获得收入,开放权重模型则是其最直接的竞争者。当一家市场参与者开始推动规则,决定竞争对手能够发展到什么程度时,它就不再只是一个单纯的安全倡议者。

更严格的测试要求、更高的合规成本和更复杂的发布审批,对Anthropic这样的公司并不是太大的负担。它拥有资金、算力、研究人员和成熟的安全团队,也有足够的资源参与政策制定。真正会受到影响的,往往是规模较小的模型公司、研究机构和开放社区。它们需要承担同样的测试和合规要求,却没有同等的资源。

限制前沿模型开放,也会直接保护闭源公司的商业模式。只要最强能力仍然只能通过API获得,企业就必须持续向少数模型公司付费,开发者也很难真正掌握底层能力。模型公司不仅拥有技术优势,还拥有定价权、数据入口和生态控制权。

这并不意味着Anthropic讨论安全时一定是在撒谎。更可能的情况是,安全风险与商业利益在这里高度重合。它相信自己的安全判断,同时也从这些判断所推动的监管规则中获益。

安全是一种非常有力量的语言。当一家企业说自己想保护市场份额时,人们会保持警惕;当它说自己正在保护人类时,商业竞争就获得了道德上的正当性。保护自身利益不再被描述为维护护城河,而变成了防止灾难发生。

Anthropic的问题并不是它不应该讨论风险,而是它选择性地放大了开放扩散的风险,却很少讨论封闭垄断和技术权力集中本身可能产生的风险。

从开放权重到中国威胁,矛盾被悄悄转移了

在这份声明中,Anthropic用了相当大的篇幅讨论中国。它认为,美国应该继续限制高端芯片和芯片制造设备出口,打击大规模模型蒸馏,避免中国利用美国闭源模型的能力,以更低成本训练出接近前沿水平的模型。

这里当然存在真实的国家竞争。美国不希望中国率先获得更先进的人工智能能力,中国也不可能放弃发展自己的模型。芯片、算力、模型和人才已经成为中美科技竞争的重要部分,这并不令人意外。

但“美国是否应该限制中国获得先进AI能力”,与“接近前沿的开放权重模型是否应该受到普遍限制”,本来是两个不同的问题。Anthropic却把它们放进了同一套叙事中。

原本的争议是,为什么美国的前沿模型公司不愿意开放权重,为什么Anthropic要推动更严格的发布门槛,为什么闭源公司有资格决定开放模型可以发展到什么程度。经过这份声明的重新包装,问题逐渐变成了:美国是否应该帮助中国发展AI,中国公司是否正在利用美国模型进行蒸馏,以及开放模型是否会增强威权国家的技术能力。

这样一来,关于商业竞争和技术开放的争论,就被转换成了一个国家安全问题。质疑Anthropic对开放模型的限制,似乎也容易被解释为忽视中国AI带来的威胁。

然而,中国开放权重模型能够在全球获得影响力,并不只是因为它们来自中国,也不是因为各国开发者对中国公司有特殊偏好,而是因为它们提供了美国闭源公司不愿意提供的东西:更低的成本、更自由的部署方式,以及对模型权重和数据的实际控制。

当美国公司把最强模型全部封闭在自己的平台内,而中国公司愿意开放权重时,全球开发者自然会作出选择。这首先是一种产品和生态竞争,然后才是国家之间的技术竞争。

如果美国希望自己的模型继续成为全球AI生态的基础,真正应该做的并不只是限制芯片、限制蒸馏或者提高其他模型的发布门槛,而是提供更有竞争力的开放模型。一个开放生态最终依靠的不是行政保护,而是有没有足够多的人愿意使用、部署和改进它。

Anthropic却选择了另一条路线:当开放模型来自美国时,它强调能力扩散的风险;当开放模型来自中国时,它又增加国家安全的风险。两种叙事最后都指向同一个结论——最强大的模型不应该开放,前沿能力应该继续掌握在少数美国闭源公司手中。

表面上是自信,骨子里还是自大和傲慢

我之前写Anthropic时,曾经提到过一个感受:这家公司给人的印象并不只是自信,而是一种建立在技术优势上的自大和傲慢。

Anthropic相信自己对AI风险的理解比其他公司更深,相信自己的安全研究更加成熟,也相信自己拥有比开放社区、其他国家和普通开发者更强的判断能力。这种自信并不难理解,它确实聚集了大量优秀的研究人员,也在模型能力和安全研究方面投入了很多资源。

但这种自信继续向前走一步,就会变成另外一种东西:因为我们最了解AI,所以应该由我们决定谁能够使用它;因为我们建立了安全体系,所以最强模型掌握在我们手中是安全的;因为其他人可能滥用技术,所以他们只应该获得被限制过的能力。

这里真正傲慢的地方,并不是Anthropic认为AI有风险,而是它似乎天然认为自己属于“正确的人”,其他人则需要不断证明自己不会成为风险。

它担心开放权重模型落入恶意攻击者、极端组织或者威权政府手中,却很少认真讨论另一个问题:如果作出错误决定的,恰恰是掌握最强模型的公司和少数高管呢?

闭源不会自动让一个组织变得善良,技术领先也不意味着其判断永远正确。一家公司可能在商业压力下忽视安全问题,可能为了维持竞争优势夸大外部威胁,也可能与政府、军事和情报机构展开外界无法审查的合作。模型没有开放权重,并不代表它不会被滥用,只是相关决策发生在更加封闭的系统中,普通人更难了解和监督。

Anthropic所构想的秩序,是少数公司掌握最强模型,同时由这些公司参与制定安全规则,判断其他模型是否可以发布。技术能力、商业利益和规则制定权集中在同一批人手中,却被默认成了更加安全的状态。

但集中并不会自动带来安全。恰恰相反,当最强模型、最大算力、最多用户数据和规则制定能力同时聚集到少数公司手中,整个行业也会形成新的单点风险。企业内部的一次判断失误、一次利益冲突或者一次政策转向,都可能影响大量开发者、企业和普通用户,而外部社会却很难及时发现,更难纠正。

开放会产生扩散风险,封闭同样会产生权力集中的风险。两者都需要监管,不能因为集中在一家拥有安全团队的公司内部,就默认后一种风险不存在。

真正需要监管的,不只是模型,还有掌握模型的人

我并不认为所有模型都应该毫无条件地开放,也不认为前沿模型的安全风险可以被忽略。随着模型能力继续提升,一些测试、评估和发布规范是必要的,尤其是涉及网络攻击、生物风险和自主执行能力时。

但这些规则必须同时适用于开放模型和闭源模型,而且不能主要由最大的闭源公司来定义。

如果开放模型需要接受独立安全评估,Anthropic、OpenAI和Google的闭源模型同样应该接受外部审计;如果开放模型的开发者需要证明模型不会被滥用,闭源公司也应该解释自己的模型如何被政府、军方和大型企业使用;如果监管机构担心危险能力扩散,也应该担心能力、算力和决策权被永久集中在几家公司手中。

真正公平的规则,不能要求开放模型证明自己绝对安全,却允许闭源公司依靠一份内部安全报告证明自己足够负责。测试标准应该公开,评估机构应该独立,监管过程也应该尽可能避免被头部公司主导。

更重要的是,监管的对象不能只有模型能力,还应该包括掌握模型的人和组织。越强大的模型公司,越应该承担更高的透明度和外部监督要求,而不是因为它拥有最专业的安全团队,就自动获得更多权力。

AI安全不应该成为一种只约束后来者和竞争者的制度。它应该同时约束开放社区、闭源公司、政府机构,以及所有有能力把模型接入现实世界的人。

Anthropic真正想守住的,是定义AI边界的权力

Anthropic这次的声明,确实澄清了一件事:它并不反对所有开放权重模型。以后再简单地说Anthropic想全面禁止开源,并不准确。

但这份声明也让它真正的立场变得更加清楚。Anthropic可以接受开放,但不能接受开放模型接近前沿;可以接受竞争,但不能接受竞争者获得同等能力;可以讨论公共产品,却不愿意放弃自己对最强模型的控制。

它用安全解释这种限制,用中国威胁强化这种限制,又用自身的技术专业性证明自己有资格制定限制。

归根到底,Anthropic争夺的不只是Claude的市场份额,也不只是美国AI公司的领先地位,而是定义AI边界的权力:什么样的模型算危险,谁可以训练最强模型,谁能够获得模型权重,以及整个社会可以使用多强的AI。

但AI未来最危险的局面,未必是强大的模型被太多人掌握,也可能是全世界最强大的模型只掌握在几家公司、几个高管和少数政府机构手中。

Anthropic一直担心危险能力落入错误的人手中,却很少反思一个更基本的问题:它为什么天然认为,自己就是那个正确的人?

这或许才是Anthropic真正让人不安的地方。

Claude Opus 5发布,但为什么Anthropic越来越招人厌了

Anthropic发布了Claude Opus 5。从模型本身看,这仍然是一款很有竞争力的产品。Claude在复杂编程、长任务和Agent执行上的表现,一直是它最重要的优势,即使现在模型之间的差距正在缩小,Claude仍然是很多开发者最愿意使用的模型之一。

但一个越来越明显的现象是,Claude越做越强,Anthropic却越来越招人厌。

过去一段时间,围绕Anthropic的负面反馈并不少。它限制Claude订阅在部分第三方工具中的使用,把开发者重新引导回官方产品和API计费;用户账号可能因为风控被突然停用,申诉过程漫长,很难找到真正能够解决问题的人。额度、价格和规则调整当然也会引起抱怨,但这些都不是问题的核心。真正让人反感的,是这些事情背后表现出的共同态度:Anthropic习惯站在制定规则的一方,认为自己更了解技术、更理解风险,也更有资格决定用户和开发者应该怎样使用Claude。

如果Anthropic只是一家普通的互联网平台,这种傲慢并不新鲜。平台需要增长时欢迎生态,掌握用户之后控制入口;自动风控追求效率,误伤的用户自己申诉;公司拥有最终解释权,外部只能接受规则。但Anthropic与普通互联网公司不同的地方在于,它不只相信自己的产品更好,还相信自己所做的一切,代表着安全、理性和人类的长期利益。

这才是Anthropic最危险的地方。

Anthropic创始人Dario Amodei并不是一个完全没有反思能力的技术公司CEO。相反,他比很多同行更愿意公开讨论AI可能带来的失业、战争、生物风险、权力集中和社会失控,也多次承认,掌握前沿模型的AI公司本身就可能成为危险的权力来源。Anthropic在一些军事和监控用途上坚持限制,也说明它对AI安全的关注并不完全是商业包装。

所以,把Anthropic描述成一家只会用安全掩盖商业利益的公司,并不公平。问题恰恰在于,它很可能真诚地相信自己的使命,也正因为这种真诚,它才更容易把自身的判断视为正确。

Dario在近期的公开文章中提到,最接近技术的人有责任告诉社会,人类正在面对什么样的风险,并说服政策制定者、企业和公众认识到问题的紧迫性。这种判断并非没有道理。前沿实验室每天接触最强的模型,掌握大量尚未公开的测试结果,它们确实可能比外界更早看到能力变化和潜在风险。

但这套说法同时建立了一种知识上的等级:最接近技术的人更接近真相,其他人则需要被告知、教育和说服。而Anthropic恰好把自己放在了最接近技术,也最认真对待风险的位置上。

从“我们知道得更多”,走到“我们应该拥有更大的决定权”,中间其实没有多远。尤其是当Anthropic既掌握最先进的模型,又参与市场竞争,还试图影响监管和行业规则时,它对风险的判断就不再只是技术意见,也会成为决定谁能进入市场、模型如何开放,以及开发者可以怎样使用Claude的现实权力。

Anthropic未必认为自己永远不会犯错,但它越来越容易相信,自己比其他人更有资格定义什么是错误。

Dario当然也看到了这种权力的危险。他曾经提出,先进AI不能完全交给少数公司决定,政府、公众和制度都应该参与监督,AI公司也需要比普通企业更严格的治理和权力制衡。

这与“Anthropic从来没有考虑过自己可能错”明显不符。至少在理论上,Dario承认AI公司可能滥用权力,也承认少数技术人员不应该独自决定人类未来。

但更值得注意的是,他给出的解决方案经常又回到同一个结论:为了让负责任的声音能够影响行业,Anthropic必须留在技术最前沿,必须拥有足够的资本、算力、用户和政策影响力;如果Anthropic技术落后、市场份额太小,它再正确的安全主张也没有人会听。

这套逻辑并不是毫无道理。一家没有产品、没有用户,也没有能力训练前沿模型的安全研究机构,确实很难真正影响行业。只有进入竞争中心,才有机会理解最前沿的风险,也才有能力约束其他公司。

但它同时形成了一个无法轻易打破的闭环:Anthropic需要更多资本,是为了留在前沿;需要更多算力,是为了研究风险;需要更大的市场,是为了影响行业;需要掌握产品入口和模型权限,是为了确保AI被负责任地使用。

于是,Anthropic的成功是为了安全,Anthropic的扩张是为了安全,Anthropic获得更多权力,同样可以被解释为安全的必要条件。

它担心AI公司拥有过大的权力,却始终倾向于相信,Anthropic是最适合掌握这份权力的公司。它并不是看不见权力的风险,而是认为解决这种风险的办法,是让一个更负责任的Anthropic变得足够强大。

这才是Anthropic自我正确性的真正来源。它不需要公开宣称“我们永远正确”,因为整套组织逻辑已经在不断得出同一个答案:世界确实需要监督最强大的AI公司,但在所有可能掌握先进AI的机构中,Anthropic仍然是那个最值得信任的选择。

Anthropic与有效利他主义、长期主义和AI生存风险思想之间的关系,也应该放在这个层面理解。

有效利他主义最初希望通过证据和理性,让有限资源帮助更多的人,减少本来可以避免的苦难。无论是否认同它后来的发展方向,这个出发点本身并没有什么问题。Anthropic今天的客服、封号和第三方工具政策,也不能简单归咎于某种哲学,它们同样受到商业利益、计算成本、合规要求和组织能力的影响。

真正对Anthropic产生深刻影响的,是长期主义和AI生存风险带来的使命叙事。按照这套思路,足够强大的AI可能决定人类未来,甚至决定未来是否还有人类。因此,降低先进AI的长期风险,可能比眼前某些具体利益更加重要。

一旦一家公司接受了这种价值排序,很多现实中的损失就容易被看成可以承受的局部代价。用户遇到误封,第三方开发者被迫迁移,开放权重模型受到限制,普通人失去一部分选择权,这些问题与“防止先进AI威胁整个人类未来”相比,自然显得没有那么重要。

更麻烦的是,高尚的目标很容易让组织忽视决策过程中的权力问题。因为Anthropic相信自己是在维护长期利益,所以它更容易认为,外界的反对来自信息不足、只关注眼前利益,或者没有真正理解AI能力快速增长的风险。

用户在讨论一项政策是否公平,Anthropic可能在讨论它是否降低了系统性风险;开发者关心自己的工具能否继续使用,Anthropic考虑的可能是模型能力是否会通过不受控制的渠道扩散。双方并不只是在争论同一个问题的不同答案,而是在使用完全不同的价值尺度。

当一家公司的所有决定,都可以放进人类长期利益这样一个宏大的框架中,它就很难再承认,某个具体决定也可能只是商业选择,甚至可能是错误。

这种自我正确性在Anthropic对开放权重模型的态度上表现得尤其明显。

Dario在近期访谈中表达过一个非常清楚的判断:用户最终最关心的是哪个模型最聪明、最能完成任务,价格和模型以什么形式提供,并没有很多人想象得那么重要。

从普通用户的角度看,这个判断有一定道理。如果一个模型明显比其他模型更强,能够一次完成别人反复尝试都做不好的任务,用户当然愿意为能力付费,也不会仅仅因为另一个模型更加开放就放弃更好的结果。

但对于开发者和企业来说,模型早已不是一次性使用的聊天产品,而是长期工作流中的基础设施。他们关心的不只是模型今天是否聪明,还包括接口明天是否稳定,第三方工具能不能持续接入,数据和部署由谁控制,账号出现问题后有没有替代方案,以及整套业务是否必须服从一家公司的单方面规则。

开源或者开放权重模型提供的价值,也不只是价格低。它真正提供的是控制权:企业可以自己部署,开发者可以按照自己的需求构建工具,用户不必担心平台突然调整认证方式或者改变使用边界,整个生态也不需要完全依赖某一家公司的善意。

Anthropic似乎相信,只要Claude继续保持最强,用户就会接受它对产品入口、模型权限和生态规则的控制。但这可能正是它最大的战略盲点。

当模型之间存在巨大能力差距时,用户确实会忍受很多问题。但当GPT、Gemini以及开放权重模型逐渐追上,达到Claude八九成甚至更高的能力时,决定用户选择的就不再只是一次任务的效果,而是谁更稳定、谁更开放、谁更尊重开发者,以及谁允许用户真正掌握自己的工作流。

技术领先可以暂时掩盖一家公司的傲慢,却无法永久消除用户对控制权的需求。

Anthropic今天仍然能够保持这种自信,是因为Claude确实足够强。

过去很长一段时间,Claude在复杂编程、长上下文和Agent任务上拥有明显优势。即使用户不喜欢Anthropic的某些政策,还是会继续订阅;即使开发者反感第三方工具受到限制,也仍然希望自己的产品能够调用Claude。技术领先给了Anthropic足够的底气,也可能让它把用户的忍耐误认为了认可。

但用户没有离开,并不等于用户信任Anthropic,只能说明替代品还没有完全成熟。

现在越来越多开发者同时使用Claude、GPT、Gemini和其他模型,并不是因为大家喜欢在不同工具之间反复切换,而是在主动降低对单一公司的依赖。简单任务先迁移出去,新项目尝试其他Agent,关键工作流准备备用方案。用户表面上仍然在使用Claude,实际上已经开始为Claude不再不可替代的那一天做准备。

用户信任的消耗,通常不会立刻反映在订阅数字上。很多人不会因为一次封号争议或者一项工具限制马上离开,而是逐渐减少投入,不再把新的项目和工作习惯绑定在Claude上。当替代方案成熟时,这种迁移可能会突然发生,看起来像用户一夜之间抛弃了某个平台,实际上所有决定早已在过去一次次失望中完成。

Anthropic真正需要担心的,不是用户今天有没有取消订阅,而是用户是否还愿意继续把未来交给它。

Opus 5的发布再次证明,Anthropic仍然拥有世界上最优秀的模型研发团队,也依然有能力在激烈的竞争中保持领先。但Anthropic最大的风险,已经不是有一天Claude在排行榜上被超过,而是它建立了一套能够不断证明自身成功、扩张和权力合理的逻辑。

Dario不是看不到AI公司权力集中的风险,也不是完全拒绝外部监督。问题在于,他的反思最终仍然经常回到同一个答案:为了约束先进AI,Anthropic必须继续留在最前沿;为了制衡其他可能更不负责任的公司,Anthropic必须拥有足够大的影响力。

这不是简单的虚伪,也未必是刻意的傲慢。恰恰因为Anthropic真诚地相信自己的使命,它才更容易忽略一个最基本的问题:动机正确,不等于每一个决定都正确;掌握更多技术信息,也不等于拥有替所有人决定的权力。

真正危险的自我正确,不是公开宣称自己永远不会犯错,而是建立了一套内部自洽的逻辑,让自己的每一次扩张、每一项限制和每一种权力,都可以被解释成更大目标的必要条件。

Anthropic一直担心强大的AI会形成一个目标高度自洽、拒绝人类纠正的系统。但它自己同样需要警惕,不能成为一家使命高度自洽,却越来越难以接受外部纠正的公司。

技术领先的时候,用户可能会忍受一家公司的强势,甚至把很多不满暂时放到一边。但模型的领先从来不会永久存在。当其他闭源模型,特别是开放权重模型追上甚至超过Claude时,用户不会继续与Anthropic争论,也不会等待它完成自我反思,只会直接离开。

市场抛弃一家技术落后的公司,也许还会给它重新追赶的机会;市场抛弃一家始终相信自己最适合掌握权力的公司,往往会更加迅速,也更加无情。