造刀的人，终于被刀指着了

昨晚刷ytb刷到一个视频，是前 OpenAI 研究员 Daniel Kokotajlo 的一段访谈。

他说，未来 OpenAI 和 Anthropic 的计划，是先把自己的工作自动化，慢慢替代掉自己的人类员工。

关于 Daniel Kokotajlo（丹尼尔·科科塔伊洛）是一位AI安全与预测专家，目前是AI Futures Project（AI未来项目）的CEO/Funder，他 2022–2024年在OpenAI治理团队做研究员，主要负责AI进度预测与政策相关工作，24年4月离职，原因是对OpenAI在AGI安全问题上的态度失去信心。他拒绝签署公司的非贬低协议，他为此放弃了约200万美元的股权，以保留****的权利。

what？

过去几年硅谷天天举着 AI 替代人类的大旗，客服、翻译、画师、程序员挨个点名。。。结果现在名单翻到最后一页，发现下一位正是举旗的人自己。

这剧情多少有点太回旋镖了。。。。

好笑归好笑，这事并非他一个人打嘴炮。

Anthropic 6 月公开的数据说，截至 5 月，合并进公司代码库的代码，超过 80% 由 Claude 编写。典型工程师合并代码的日均量，是 2024 年的 8 倍。内部调查里，员工估算自己的产出中位数提升了 4 倍。

当然，8 倍代码不等于 8 倍价值，代码写得多，有时也可能只是更勤快地制造 bug。Anthropic 自己也承认，真正难的东西还在人手里，选什么问题、信什么结果、什么时候该停。

可你想想看，Claude 已经会写代码、跑实验、调用一群 Claude 分工，还能负责审查 Claude 写的代码。

更离谱的是，在 Anthropic 的一场对齐研究演示里，一组 Claude 代理会自己提假设、做实验、互相汇报结果。两名人类研究员用一周追回了 23% 的性能差距，AI 团队靠 800 小时的累计计算追回了 97%。

这离完整替代还很远，人类仍然负责出题和打分。

可过去我们安慰自己，AI 只会执行，研究员负责想，，但现在连下一步该想什么，它也开始伸手了。

这就像工厂里的机器不仅学会了自己设计下一代机器，还学会了检查上一代机器有没有摸鱼。

为什么刀先伸向造刀的人？

因为他们的工作，刚好是最适合被 AI 吃掉的那一块——代码是数字的，实验能批量跑，结果可以测试，失败了还能回滚。人类研究员要排队试方向，AI 代理可以并行铺开，让研究瓶颈从人手变成算力。

AI 公司并没有突然良心发现，决定和全人类同甘共苦。

（特别是天天把安全挂在嘴边的A畜）

他们只是太想赢了。

谁先自动化 AI 研发，谁就可能让模型帮助模型升级，今天快两倍，明天再拿这两倍去造下一代，而飞轮一旦转起来，人类研究员最尴尬的地方就来了，他们既是司机，也是正在被拆掉的方向盘。

OpenAI 也把自动化研究员写进了公开计划，Anthropic 联合创始人 Jack Clark 甚至判断，到 2028 年底，无人参与的自动化 AI 研发有 60% 的概率出现。

看这群人说是这么说，我自己其实也不知道它会不会按时发生，毕竟这只是预测，可能错得很离谱——算力、电力、芯片、研究判断，任何一块都是这个预测中的大变量。

但坦率的讲，我倒是希望这些变量能发挥一下作用。

更让我感慨的，是这场替代第一次变得如此对称——在以前，AI 公司的高管站在台上谈效率，台下的人负责焦虑。现在，焦虑终于顺着组织架构往上爬，爬进了最聪明、最昂贵、也最相信技术的那群人办公室。

有人会觉得活该，我理解。

可真到了这一步，我又笑不太出来，因为这不是报应，这是预演。

如果连最懂模型、最靠近算力、最有资格重新定义岗位的人，都只能从写代码退到审代码，从做研究退到选方向，那普通人面对的，恐怕不是学会一个新软件就能解决的事。。。那之后真正要谈的，会变成生产力归谁，收益怎么分，谁有权踩刹车。

工业革命替代的是部分人的肌肉，AI革命替代的是部分人的大脑，它就像一把刀，无情地砍断所有视试图阻挡其脚步的要素，但幽默的是，现在被试刀的，是磨刀最快的那批人。

刀转回来了。

可刀柄，还没回到我们手里。