Anthropic 警告:AI 正在自己造自己,RSI 到底意味着什么?

这条视频,我之前写偏了。

我把重点写成了 AI 工作流、企业效率、普通公司怎么用 AI。那些观点没错,但不是这个视频真正的核心。

这个视频真正讲的是一个更大的问题:

如果 AI 开始参与制造 AI,人类社会会不会进入一次指数级变化?

视频里提到的关键词是 RSI。

RSI,全称是 recursive self-improvement,递归自我改进。

简单说,就是 AI 不只是被人类使用,而是开始参与设计、训练、优化下一代 AI。

这和“AI 帮我写文案”“AI 帮我写代码”不是一个层级。

前者是工具。

后者是工具开始改进工具本身。

视频把这个问题拆成了 6 个点,我按视频原始逻辑重新整理一遍,再加上我自己的判断。

视频截图,Anthropic关于AI自我改进的讨论
视频里用 Anthropic 相关信息引出 AI 自我改进话题。

01|第一点:Claude 已经在写自己的代码

视频开头说,Anthropic 发了一篇长文,标题大意是:

当 AI 自己建造自己。

这里说的 Anthropic,就是 Claude 背后的公司。

视频里最刺激的一个说法是:

Claude 已经在写自己的代码,而且写得比人类还好。

我查了 Anthropic 官方文章,里面确实提到一个非常关键的数据:

截至 2026 年 5 月,Anthropic 合并到代码库里的代码,超过 80% 是 Claude 写的。

文章还提到,Anthropic 工程师现在每个季度交付的代码量,是 2021 到 2025 年平均水平的 8 倍。

这个数据真正说明的,不是“程序员马上没了”。

真正说明的是:

AI 已经进入 AI 公司自己的研发流程。

以前 AI 写代码,只是帮程序员写一个函数、改一个 bug、生成一段 SQL。

现在不一样了。

它开始进入真实项目。

它开始读代码库。

它开始修改系统。

它开始参与测试。

它开始把自己的能力,用到下一轮 AI 产品和基础设施的开发里。

这就是 RSI 的预演。

还不是完全意义上的 AI 自己制造 AI,但已经不是以前那种“人类写全部代码,AI 只负责辅助”的阶段。

视频截图,Anthropic 80%以上代码由Claude编写的说法
80% 代码这个数字真正说明的是 AI 已经进入完整研发工作流。

02|第二点:最大瓶颈可能不再是算力,而是人类速度

视频第二个点很扎心:

AI 发展的最大瓶颈,可能已经不只是算力,而是人类的速度。

过去我们谈 AI,最常说的是算力、芯片、数据、模型规模。

这些当然重要。

但当 AI 能大量写代码、跑实验、生成方案以后,另一个瓶颈会浮出来:

人类来不及看。

AI 可以很快生成代码,但人类工程师要看懂。

AI 可以很快提出方案,但人类要判断风险。

AI 可以很快完成实验,但人类要决定是否合并、是否上线、是否负责。

视频里提到,Anthropic 自己也认为,进步最慢的环节之一,是人类工程师审查代码的速度。

这个问题很现实。

如果 AI 一天能生成过去一个团队一周的工作量,而人类审核速度还是原来的速度,那么系统的瓶颈就从“生产”变成了“审核”。

这就像工厂里的机器突然快了 10 倍,但质检还是人工慢慢看。

最后不是机器不够快,而是人反应不过来。

这也是为什么视频里会说,一旦进入指数级变化,人类可能来不及反应。

因为指数级变化最可怕的地方,不是快。

而是前面看起来没什么,后面突然垂直上升。

很多人会在前半段低估它,在后半段来不及调整。

视频截图,人类工程师看代码的速度成为AI开发链条中的限制
当 AI 执行速度变快,人的价值会更多转向定义问题、判断方向和审查结果。

03|第三点:Karpathy 加入 Anthropic,不是普通跳槽

视频第三个点提到一个人:

Karpathy。

中文圈很多人叫他卡神。

他曾经在 OpenAI 工作,也曾经负责过特斯拉自动驾驶相关的 AI 工作,是 AI 圈非常有影响力的技术人物。

视频里的说法是:

Karpathy 加入 Anthropic,是为了 all in RSI。

这句话可能有短视频夸张成分,但它表达的方向值得注意:

顶级 AI 人才正在把注意力放到“让 AI 加速 AI”这件事上。

普通人看到 AI,可能还停留在:

写文章。

做海报。

改代码。

做客服。

写邮件。

但顶级 AI 公司和顶级技术人看的,已经是另一个层级:

怎样让 AI 参与模型训练?

怎样让 AI 改进评估系统?

怎样让 AI 优化数据流程?

怎样让 AI 帮助研究员提出更好的实验?

怎样让 AI 加速下一代 AI 的研发?

这才是 RSI 真正重要的地方。

不是 AI 今天能不能替代一个岗位。

而是 AI 能不能进入“生产下一代能力”的流程。

一旦它进入这个流程,速度就不再是线性的。

04|第四点:智能爆炸,可能比很多人想得更快

视频第四个点,是最核心也最有争议的部分:

智能爆炸。

它提到一个判断:

过去很多人认为,从 AGI 到 ASI,也就是从通用人工智能到超级智能,可能还需要几年。

但如果 RSI 的正反馈真的形成,这个过程可能会被极大压缩。

视频里的表达更激进:

可能只需要几个小时。

这个说法我不会直接当成确定事实。

但它背后的逻辑要理解。

如果 AI 只是被人类训练,它的进步速度受制于人类研究、工程、实验、审查、部署的节奏。

但如果 AI 能参与改进自身能力,流程就变成:

AI 提出改进方案。

AI 写代码。

AI 做实验。

AI 分析结果。

AI 继续改进下一轮。

人类只在关键节点设定边界和审核结果。

这个闭环一旦跑起来,速度就会非常快。

这就是视频里说的指数级增长。

不是今天比昨天快一点。

而是每一轮改进,又提升下一轮改进的速度和能力。

这也是为什么很多人把 RSI 和智能爆炸联系在一起。

它讨论的不是一个工具变好用。

而是一个系统开始加速改进自己。

05|第五点:金融市场会变成 AI 对 AI 的战场

视频第五个点讲金融。

它提到一个判断:

RSI 如果实现,不会只停留在 AI 和编程领域,而会复制到金融、法律、医疗等领域。

金融是最容易被改变的行业之一。

因为金融市场本质上就是信息、速度、策略、风险和博弈。

视频里举了一个例子:

有对冲基金使用类似 RSI 的系统做交易策略。

每天收盘以后,系统生成几十套、上百套交易策略。

然后把这些策略放进历史数据里回测、竞争、筛选。

风险调整以后表现最好的策略,第二天进入真实交易。

整个过程几乎没有人类直接参与。

这件事的关键不是“AI 帮人炒股”。

而是市场可能变成:

AI 生成策略。

AI 回测策略。

AI 调整策略。

AI 执行策略。

AI 继续根据结果更新策略。

传统量化策略可能几个月就失效,但如果系统每晚都能重新优化,它适应市场的速度就会完全不一样。

当然,这里也有非常大的风险。

金融不是谁更快谁就一定赢。

当大家都用 AI,市场会变成 AI 与 AI 的竞争。

谁的数据更完整。

谁的风控更严格。

谁的执行更稳定。

谁更能避免模型过拟合。

谁更能控制极端情况下的风险。

这些才是关键。

我自己对金融风险特别敏感。

工具越强,犯错的速度也越快。

没有规则和风控,AI 只会让错误更快执行。

06|第六点:医药可能迎来最大变化

视频第六个点讲医药。

这里的信息非常冲击。

视频提到,Google DeepMind 的 Demis Hassabis 曾经表达过一个判断:

绝大多数疾病,可能在未来十年内被治愈。

这个说法非常激进。

我不会把它理解成“十年内所有病都能轻松解决”。

但医药确实是 AI 最可能产生巨大影响的领域之一。

为什么?

因为药物研发本质上是在巨大空间里找答案。

靶点发现。

分子设计。

候选筛选。

毒性预测。

成药性优化。

临床前实验。

临床方案设计。

实验结果分析。

过去这些事情需要大量科学家、实验室、时间和资金。

AI 进入以后,可以把很多环节连接起来。

视频里提到,RSI 以后,AI 不只是辅助科学家筛选药物,而是可能参与从靶点发现、分子设计、成药性优化到临床方案设计的全流程。

这句话要重点看。

因为它讲的不是单点效率提升。

不是“AI 帮我筛一批分子”。

而是整个研发闭环变短:

提出假设。

生成候选分子。

模拟筛选。

预测性质。

优化结构。

设计实验。

分析结果。

进入下一轮。

如果这个循环从几个月压缩到几天,甚至更短,医药研发的速度会被重写。

视频还提到,AI 可以同时研究数百万种疾病和药物组合。

这一点很关键。

人类科学家的优势是判断、创造力、经验、伦理和责任。

但在大规模搜索、并行试错、文献吸收、数据模式发现上,人类很难和 AI 比。

所以医药领域最值得期待的,不是 AI 明天发明神药。

而是它让研发闭环变短,让试错成本下降,让过去做不起、来不及做、没人能同时做的组合被系统性探索。

视频截图,视频中提到医药领域的成药性优化
医药领域的核心不是 AI 发明神药,而是让研发闭环变短。

07|这可能是一次和过去完全不同的技术革命

视频最后提到一个很重要的表达:

以前所有技术革命,都是人类发明工具,然后用工具改造世界。

但这一次不一样。

这一次,我们发明的工具,正在自己发明更好的工具。

这句话是整条视频的核心。

蒸汽机、电力、计算机、互联网、智能手机,都是人类发明工具。

工具很强,但工具本身不会主动发明下一代工具。

AI 不一样。

如果 AI 开始参与代码、模型、实验、训练、评估、药物、金融策略、企业流程的改进,那么它就不只是工具。

它开始成为生产力系统里的一部分。

甚至成为改进生产力系统的那部分能力。

视频里还提到霍金的观点:

人工智能可能是人类最后一项发明。

这句话听起来很重。

但如果从 RSI 的角度看,它不是纯粹的恐吓。

它表达的是:

当一个工具拥有改进工具的能力,人类和工具的关系会发生根本变化。

08|我的判断:不要只把它看成恐慌视频

这条视频的表达方式很短视频化。

有些说法很激进。

比如几小时从 AGI 到 ASI。

比如人类完全来不及反应。

比如金融市场里人类没有入场资格。

这些话容易制造焦虑。

但我不建议因为它夸张,就把它全部忽略。

真正应该抓住的是三个层次。

第一,AI 已经从内容生成,进入任务执行。

第二,AI 正在进入研发、实验、金融、医药等复杂工作流。

第三,AI 未来可能进入改进这些工作流本身的阶段。

第三层才是最重要的。

普通人现在还在讨论 AI 能不能写文章。

公司老板还在讨论 AI 能不能替代客服。

但真正的变化,是 AI 能不能让一个组织每天都比昨天更聪明。

它能不能把客户反馈变成产品改进。

它能不能把销售过程变成话术迭代。

它能不能把代码报错变成工具改进。

它能不能把实验结果变成下一轮实验设计。

它能不能把一次失败变成系统里的经验。

如果可以,这就是普通公司的“小型 RSI”。

不一定是 AI 自己造 AI。

但它是业务系统自己改进业务系统。

09|对普通公司和个人来说,应该怎么理解?

我觉得普通公司不用一上来就谈 AGI、ASI、智能爆炸。

那太远,也太容易空。

更现实的问题是:

你的公司有没有把经验沉淀进系统?

你的员工每天重复做的事,有没有被 AI 拆出来?

你的客户反馈,有没有回到产品和销售流程?

你的失败案例,有没有变成下一次的判断标准?

你的业务数据,有没有帮助团队越做越快?

如果没有,那 AI 对你来说只是聊天工具。

如果有,AI 才可能变成业务复利。

外贸也是一样。

AI 不是简单写英文邮件。

而是把客户、产品、报价、跟进、复购、丢单原因、国家市场差异、业务员经验,全部沉淀成一个可以持续优化的系统。

当系统越来越懂业务,人员就可以更少,效率却可以更高。

这才是我现在真正看重 AI 的地方。

不是它能写一篇文章。

不是它能做一个图片。

不是它能回答一个问题。

而是它能不能参与一个系统的持续改进。

10|最后说一句

这条视频真正值得看的,不是“AI 要吓死人”。

而是它提醒我们:

AI 的变化可能不是线性的。

当 AI 开始参与改进 AI,参与改进软件,参与改进金融策略,参与改进药物研发,参与改进企业流程时,很多行业都会出现指数级变化。

指数级变化最残酷的地方是:

一开始你觉得它没什么。

等你看懂的时候,它可能已经跑远了。

所以我不会把这条视频当成简单的恐慌内容。

我更愿意把它当成一个信号:

AI 时代真正的竞争,不是会不会使用某个工具。

而是谁能最早建立自我改进的系统。

参考资料:

Anthropic Institute: When AI builds itself