Lex Fridman 对话 Anthropic CEO:5 小时深聊缩放定律、Claude 与安全
Lex Fridman 发布与 Anthropic 首席执行官 Dario Amodei 的 5 小时对谈。两人深入探讨了模型缩放定律的边界、行业竞争、AGI 时间表以及 AI 安全分级;研究员 Amanda Askell 和 Chris Olah 也分别就 Claude 的性格训练与机制可解释性加入讨论。
想彻底搞懂 Anthropic 和 Claude 背后到底在想什么,看公关通稿基本没用。
播客主持人 Lex Fridman 发布了他与 Anthropic 首席执行官 Dario Amodei 长达 5 个多小时的超长对话,把这家平时行事低调的 AI 领头羊彻底摊开在台面上聊了一遍。
有意思的是,这场播客不仅有 Dario 自己出镜,Anthropic 的另外两位核心成员 Amanda Askell 和 Chris Olah 也各自加入了一个小时,专门聊他们最擅长的事。
从 Claude 4.0 到扩展定律的极限
对谈的前半部分主要由 Dario Amodei 唱主角,内容信息量极大。
他们不仅直接讨论了扩展定律到底会不会撞墙,还正面谈到了与 OpenAI、Google、xAI 和 Meta 的竞争格局。
在产品方面,Dario 聊到了已经大火的 Sonnet 3.5,以及备受关注的 Opus 3.5 和未来的 Claude 4.0,甚至没有回避外界对 Claude 的各种批评。
关于行业最关心的安全等级,两人深入探讨了 ASL-3 和 ASL-4 标准,并讨论了此前引起轰动的 Computer use 电脑控制功能、政府监管以及 AGI 的到来时间线。
拆开黑盒:性格训练与可解释性研究
接下来的两个小时,技术硬核度直接拉满。
Amanda Askell 重点拆解了 Claude 的性格塑造。他们聊到了宪法 AI、后训练机制、系统提示词的编写,甚至正面回应了大家经常感受到的疑问:Claude 是不是在变笨。
Amanda 还给非技术背景的人给出了实用的编程建议,分享了与 Claude 交流的提示工程技巧。
最后出场的 Chris Olah 则是 AI 可解释性研究的先驱。他带大家钻进了神经网络的内部。
从特征和回路、叠加态理论,再到单义性以及大尺度下的神经网络行为,Chris 试图讲清楚人类如何看懂大模型内部到底在做哪些计算。
为什么重要
在我们看来,这场 5 小时的对谈是近距离观察 Anthropic 技术哲学最直观的窗口。
对日常用 Claude 写代码或做提示工程的人来说,Amanda Askell 解释后训练和系统提示词的部分非常值得一听,你能明白模型为什么会这么回答,也能掌握更顺畅的沟通姿势。
对整个行业而言,Anthropic 展现了一种极其罕见的技术坦诚。很多大厂对安全等级、模型缺陷和内部机理往往讳莫如深,而 Anthropic 愿意让核心科学家花两小时向公众解释单义性和对齐逻辑。
我们认为这种做法聪明在建立了极强的专业信任度,但隐患在于,过于硬核的技术叙事很难直接转化为大众市场的认知优势,5 个多小时的超长内容最终可能依然只是少数极客和从业者的盛宴。
来源 (1)
- @lexfridman(在新标签页打开)原文twitter.com