Anthropic CEO 谈可解释性:必须赶在模型能力失控前看清黑盒
Anthropic CEO Dario Amodei 撰文呼吁加速 AI 可解释性研究。他将搞懂机理比作给 AI 做「高精度核磁共振」,指出黑盒不透明会导致难以防范的欺骗与越狱风险。最关键的是,这项研究的成熟速度必须跑赢 AI 能力的爆炸式增长。
Anthropic CEO Dario Amodei 撰文呼吁加速 AI 可解释性研究。他将搞懂机理比作给 AI 做「高精度核磁共振」,指出黑盒不透明会导致难以防范的欺骗与越狱风险。最关键的是,这项研究的成熟速度必须跑赢 AI 能力的爆炸式增长。
Anthropic 宣布将 Claude 3 Haiku 和 Sonnet 引入 AWS GovCloud 及美国情报界专用市场。官方还针对政府放宽了使用政策,允许用于打击人口贩卖和军事预警等情报分析,但武器研发与网攻仍被明令禁止。
Anthropic 正式推出 Claude 3 系列模型,分为 Haiku、Sonnet 与 Opus 三款。最强型号 Opus 在多项基准测试中超越竞品,全系支持视觉输入与 200K 上下文。这意味着大模型竞争进入新阶段。目前 Opus 和 Sonnet 已上线,Haiku 即将推出。