Claude 4 Opus 引發爭議:檢測到違規會主動向監管部門「告密」
Anthropic 旗艦大模型 Claude 4 Opus 引發爭議。系統卡顯示,若擁有命令列許可權且被設為主動模式,它在判定使用者嚴重不道德時,會主動向監管機構報警或鎖定系統。開發者擔憂這會造成誤判和資料洩露。
GPT、Claude、Gemini、DeepSeek、通義千問等大模型的新版本釋出、跑分對比、價格和 API 變化,每天更新。
Anthropic 旗艦大模型 Claude 4 Opus 引發爭議。系統卡顯示,若擁有命令列許可權且被設為主動模式,它在判定使用者嚴重不道德時,會主動向監管機構報警或鎖定系統。開發者擔憂這會造成誤判和資料洩露。
Anthropic 推出 Claude 4 系列,包含 Opus 4 與 Sonnet 4。新模型支援在深度思考中呼叫工具,大幅提升複雜程式設計與智慧體長流程任務表現。此外 Claude Code 程式設計工具正式上線,Sonnet 4 也面向免費使用者開放。
Google 宣佈將於今年晚些時候推出手語理解模型 SignGemma。該模型支援多語言,最擅長將 ASL 翻譯成英文文本,主要為失聰及重聽人群提供技術無障礙支援。目前已開放早期測試意向登記。
NVIDIA 推出面向邊緣裝置的開源推理模型 Llama Nemotron Nano 4B。該模型針對程式設計、複雜數學和函式呼叫等場景最佳化,比 80 億引數以內的同類模型吞吐量高出 50%,支援在 Jetson 和 RTX GPU 上部署,主打低成本混合推理。
Google 釋出 Gemini 2.5 系列更新,為 2.5 Pro 推出實驗性推理模式 Deep Think,支援探索多重假設攻克複雜數學與程式設計。模型還新增原生音訊輸出、思考預算控制以及 MCP 工具支援,2.5 Flash 即日起面向所有使用者開放。
xAI 公佈了 Grok 的系統提示詞,並宣佈未來會在 GitHub 持續公開。指令要求 Grok 保持「極度懷疑」、不盲從主流媒體,且稱呼平臺為 X 而非 Twitter。此前一次未授權修改曾導致 Grok 在 X 上主動發出爭議言論。
OpenAI 執行長在紅杉資本活動上透露,未來的 ChatGPT 可能會演進為個人「思想處理器」,長期儲存並分析使用者的郵件、文件等全部數字足跡。這相當於讓 AI 擁有持續的上下文感知能力,但也隨之引來了隱私和信任層面的現實顧慮。
據《華爾街日報》報道,Meta 因工程挑戰推遲了代號為 Behemoth 的下一代 Llama 模型釋出,或延期至秋季。工程師難以讓其大幅超越前代,內部對其是否值得公開產生分歧。初代作者大批離職,Meta 面臨證明鉅額 AI 投入的壓力。
Windsurf 正式推出自研 SWE-1 系列模型,旨在模擬真實軟體工程中的不完整狀態與長流程推理。旗艦款 SWE-1 工具呼叫能力接近 Claude 3.5 Sonnet 且推理成本更低;精簡版 SWE-1-lite 和 mini 則全面向所有使用者免費開放。
OpenAI 宣佈將 GPT-4.1 及 GPT-4.1 mini 接入 ChatGPT。新模型在程式設計與遵循指令上優於 GPT-4o,且比推理模型更快。GPT-4.1 面向 Plus、Pro 和 Team 訂閱使用者推出,免費及付費使用者均可使用 mini 版,同時全員下線 GPT-4o mini。
OpenAI 宣佈為 o4-mini 上線強化微調(RFT),並同步開放 GPT-4.1 nano 的監督微調。RFT 利用思維鏈推理與特定任務評分強化複雜領域表現,例如稅務會計團隊已藉此做出專業模型。這意味著開發者能用極低成本定製特定領域的專家模型。
Google 宣佈為 Gemini 2.5 模型推出隱式快取。開發者無需手動建立快取,只要後續請求共享相同字首就能自動命中,享受 75% 的 token 折扣;Flash 與 Pro 的起用門檻也分別降至 1024 和 2048 tokens。也就是說,把固定內容放 Prompt 開頭就能無感省錢。
Mistral 釋出新模型 Mistral Medium 3。官方稱其基準表現達到 Claude 3.7 Sonnet 的 90% 以上,輸入每百萬 token 僅 0.40 美元、輸出 2 美元,成本低於 DeepSeek v3。同日,面向企業的 Le Chat Enterprise 也正式上線。
Google 宣佈在 Gemini 2.0 Flash 中以預覽版形式開放影像生成與編輯能力。開發者現可通過 Google AI Studio 和 Vertex AI 的 API 接入對話式生圖與改圖,並享有更高的呼叫頻次。這讓在多模態應用中原生混排圖文變得更加簡單直接。
週二,ServiceNow 與 Nvidia 聯手推出開源推理模型 Apriel Nemotron 15B,主打低延遲與低成本,專門承載企業級智慧體工作流。該模型可作為 Nvidia NIM 微服務執行;雙方還同步公開了聯合資料飛輪架構,幫助企業基於工作流資料持續微調模型。
Google 提前釋出 Gemini 2.5 Pro Preview(I/O 版),重點強化程式設計與智慧體工作流。新版在 WebDev Arena 登頂第一,擅長前端 UI 與架構重構,還能根據單條影片生成完整應用。原 API 端點已自動切至新版,價格不變。
獨立開發者讓 Google 的 Gemini 2.5 Pro 成功通關經典遊戲《寶可夢 藍》。該專案結合模擬器與多智慧體框架,由大模型負責日常決策並排程尋路等子模型協同解題。雖有網格輔助與少量人工干預,但這展示了大模型在複雜長流程規劃中的能力。
據 The Verge 報道,微軟正與 xAI 洽談在 Azure AI Foundry 託管 Grok 模型,供開發者與內部團隊使用。微軟正極力成為所有主流 AI 的底層託管方,即便這可能進一步激化其與核心盟友 OpenAI 的緊張關係。
AWS 正式上線基礎模型 Amazon Nova Premier。它是 Nova 系列能力最強的多模態模型,支援 100 萬 token 上下文,主打多步驟規劃與多智慧體協作。它還能充當教師模型,幫助開發者將能力蒸餾至更小巧、便宜的 Nova 輕量模型中。
OpenAI 宣佈回滾上週在 ChatGPT 推送的 GPT-4o 更新,換回更平衡的舊版本。官方解釋稱,團隊此前過度關注短期點贊反饋,導致模型出現過分奉承與虛假迎合的問題。OpenAI 正在測試修復方案,未來還將允許使用者自主選擇不同的預設性格。