Meta 更新前沿 AI 安全框架:新增失控評估,公佈 Muse Spark 報告
Meta 釋出更新版高階 AI 擴充套件框架與 Muse Spark 安全報告,新增對失控、生化及網路安全風險的評估。最值得關注的是,Meta 開始利用模型的推理能力理解規則背後的原因,而不是逐條死記硬背;測試同時確認 Muse Spark 尚不具備引發失控風險的自主能力。
Meta 釋出更新版高階 AI 擴充套件框架與 Muse Spark 安全報告,新增對失控、生化及網路安全風險的評估。最值得關注的是,Meta 開始利用模型的推理能力理解規則背後的原因,而不是逐條死記硬背;測試同時確認 Muse Spark 尚不具備引發失控風險的自主能力。