Anthropic CEO 談可解釋性:必須趕在模型能力失控前看清黑盒
Anthropic CEO Dario Amodei 撰文呼籲加速 AI 可解釋性研究。他將搞懂機理比作給 AI 做「高精度核磁共振」,指出黑盒不透明會導致難以防範的欺騙與越獄風險。最關鍵的是,這項研究的成熟速度必須跑贏 AI 能力的爆炸式增長。
Anthropic CEO Dario Amodei 撰文呼籲加速 AI 可解釋性研究。他將搞懂機理比作給 AI 做「高精度核磁共振」,指出黑盒不透明會導致難以防範的欺騙與越獄風險。最關鍵的是,這項研究的成熟速度必須跑贏 AI 能力的爆炸式增長。
Anthropic 宣佈將 Claude 3 Haiku 和 Sonnet 引入 AWS GovCloud 及美國情報界專用市場。官方還針對政府放寬了使用政策,允許用於打擊人口販賣和軍事預警等情報分析,但武器研發與網攻仍被明令禁止。
Anthropic 正式推出 Claude 3 系列模型,分為 Haiku、Sonnet 與 Opus 三款。最強型號 Opus 在多項基準測試中超越競品,全系支援視覺輸入與 200K 上下文。這意味著大模型競爭進入新階段。目前 Opus 和 Sonnet 已上線,Haiku 即將推出。