跳到正文
IFAI

行业动态

Lex Fridman 对话 Anthropic CEO:5 小时深聊缩放定律、Claude 与安全

首次发布 传播指数 44

Lex Fridman 发布与 Anthropic 首席执行官 Dario Amodei 的 5 小时对谈。两人深入探讨了模型缩放定律的边界、行业竞争、AGI 时间表以及 AI 安全分级;研究员 Amanda Askell 和 Chris Olah 也分别就 Claude 的性格训练与机制可解释性加入讨论。

图:youtube.com

想彻底搞懂 Anthropic 和 Claude 背后到底在想什么,看公关通稿基本没用。

播客主持人 Lex Fridman 发布了他与 Anthropic 首席执行官 Dario Amodei 长达 5 个多小时的超长对话,把这家平时行事低调的 AI 领头羊彻底摊开在台面上聊了一遍。

有意思的是,这场播客不仅有 Dario 自己出镜,Anthropic 的另外两位核心成员 Amanda Askell 和 Chris Olah 也各自加入了一个小时,专门聊他们最擅长的事。

从 Claude 4.0 到扩展定律的极限

对谈的前半部分主要由 Dario Amodei 唱主角,内容信息量极大。

他们不仅直接讨论了扩展定律到底会不会撞墙,还正面谈到了与 OpenAI、Google、xAI 和 Meta 的竞争格局。

在产品方面,Dario 聊到了已经大火的 Sonnet 3.5,以及备受关注的 Opus 3.5 和未来的 Claude 4.0,甚至没有回避外界对 Claude 的各种批评。

关于行业最关心的安全等级,两人深入探讨了 ASL-3 和 ASL-4 标准,并讨论了此前引起轰动的 Computer use 电脑控制功能、政府监管以及 AGI 的到来时间线。

拆开黑盒:性格训练与可解释性研究

接下来的两个小时,技术硬核度直接拉满。

Amanda Askell 重点拆解了 Claude 的性格塑造。他们聊到了宪法 AI、后训练机制、系统提示词的编写,甚至正面回应了大家经常感受到的疑问:Claude 是不是在变笨。

Amanda 还给非技术背景的人给出了实用的编程建议,分享了与 Claude 交流的提示工程技巧。

最后出场的 Chris Olah 则是 AI 可解释性研究的先驱。他带大家钻进了神经网络的内部。

从特征和回路、叠加态理论,再到单义性以及大尺度下的神经网络行为,Chris 试图讲清楚人类如何看懂大模型内部到底在做哪些计算。

为什么重要

在我们看来,这场 5 小时的对谈是近距离观察 Anthropic 技术哲学最直观的窗口。

对日常用 Claude 写代码或做提示工程的人来说,Amanda Askell 解释后训练和系统提示词的部分非常值得一听,你能明白模型为什么会这么回答,也能掌握更顺畅的沟通姿势。

对整个行业而言,Anthropic 展现了一种极其罕见的技术坦诚。很多大厂对安全等级、模型缺陷和内部机理往往讳莫如深,而 Anthropic 愿意让核心科学家花两小时向公众解释单义性和对齐逻辑。

我们认为这种做法聪明在建立了极强的专业信任度,但隐患在于,过于硬核的技术叙事很难直接转化为大众市场的认知优势,5 个多小时的超长内容最终可能依然只是少数极客和从业者的盛宴。

来源 (1)

  1. [1]
    @lexfridman(在新标签页打开)原文twitter.com

每日 AI 内容精选