洛杉磯公交加裝 AI 攝像頭：專抓違停佔道，人工複核後開罰單
據洛杉磯時報報道，洛杉磯交通局（LA Metro）正在公交車上安裝 AI 攝像頭，自動抓拍違規佔用公交專用道和停靠站的車輛。違法證據將轉交當地交通局由人工複核後決定是否開出罰單。專案預計今夏測試，年底正式上線。
裝置端AI
檢視更新的新聞
商湯釋出日日新 5.0：支援 20 萬上下文，主打端雲協同矩陣
SenseTime 在上海技術交流日釋出 SenseNova 5.0 大模型及端側產品矩陣。新模型訓練資料超 10TB token，支援約 20 萬有效上下文，在多模態基準 MMBench 上獲綜合第一。同時推出的端側模型在旗艦平臺每秒可生成 78.3 字。
微軟釋出 Phi-3 Mini：38 億引數，號稱比肩 GPT-3.5
微軟釋出輕量級 AI 模型 Phi-3 Mini，引數量僅 38 億。該模型利用大模型生成的「兒童故事」資料訓練，官方稱其表現接近體量大它十倍的模型。模型現已上線 Azure、Hugging Face 和 Ollama，後續還將推出 7B 和 14B 版本。
據報蘋果收購法國初創 Datakalab：瞄準端側 AI 壓縮與視覺
據外媒報道，蘋果已於 12 月收購法國初創公司 Datakalab。該公司專攻低功耗端側 AI 壓縮與計算機視覺，擅長在 100 毫秒內完成本地匿名影像處理。這顯然是蘋果在為 iOS 18 的端側 AI 以及 Vision Pro 補充關鍵技術儲備。
國際奧委會發布 AI 議程：0.1 秒拆解跳水動作，還要在全球基層選苗子
國際奧委會公佈「奧林匹克 AI 議程」，探索將 AI 用於裁判輔助、潛能發掘和賽事組織。現場展示了 0.1 秒內拆解跳水翻騰動作輔助打分，以及英特爾用手機測試在塞內加爾發掘體育新秀。部分成果將在巴黎奧運會落地，但裁判邊界與倫理爭議仍存。
Meta 釋出開源模型 Llama 3：推 8B 和 70B 版本，訓練資料達 15T
Meta 正式釋出開源大模型 Llama 3，首發推出 8B 和 70B 兩種尺寸的基礎與指令微調版本。新模型基於超 15 萬億 token 訓練，詞表擴充至 12.8 萬，8B 版本在消費級顯示卡上即可微調與執行。最值得關注的是，開源生態再次迎來標杆級底座；不過當前上下文長度仍為 8k tokens。
NVIDIA 全面加速 Llama 3：單張 H200 跑 70B 每秒吐 3000 token
NVIDIA 宣佈對 Meta 新發布的 Llama 3 進行全平臺推理最佳化。測試顯示，單張 H200 執行 700 億引數版本時每秒生成約 3000 token，可同時服務約 300 名使用者；80 億引數版本也已適配 Jetson 和 RTX PC。開發者可直接通過 NIM 微服務在瀏覽器中試用。
傳蘋果 iOS 18 首批 AI 功能全走端側：主打隱私，斷網也能用
據報道，蘋果計劃在 iOS 18 中推出的首批 AI 功能將完全在裝置端執行，無需聯網或雲端處理。基礎文本分析與回覆預計覆蓋資訊、Safari 和 Siri，更高階功能或需聯網。蘋果預計在 6 月 10 日的 WWDC 上正式公佈詳情。
PaintCam 推出安防相機 Eve：用 AI 識別人臉，還能發射彩彈與催淚瓦斯
斯洛維尼亞公司 PaintCam 推出家用安防相機 Eve，搭載計算機視覺識別訪客與闖入者，若警告無效可直接發射彩彈或催淚彈反擊。最值得關注的是，安防裝置從被動監控走向主動開火，但也引發了誤傷與法律責任爭議。
Hugging Face 釋出 Idefics2：8B 視覺大模型開源，OCR 與圖文推理大漲
Hugging Face 推出開源多模態模型 Idefics2。它僅有 8B 引數，採用 Apache 2.0 協議，支援原生影像解析度輸入並大幅強化了 OCR 與文件問答能力。其視覺問答表現在同量級拔尖，甚至能叫板 30B 級別的閉源與大尺寸模型。
Google 聯合 Hugging Face 開源 CodeGemma：主打程式碼補全，輕至 2B
Google 聯合 Hugging Face 上線程式碼模型 CodeGemma。該系列在 Gemma 基礎上補充了 5000 億 token 訓練，推出主打程式碼填充的 2B 版本、兼顧自然語言的 7B 基礎版及 7B 對話版。其中 2B 版僅需約 6 GB 記憶體，適合在端側裝置快速補全程式碼。
蘋果押注企業級市場：Vision Pro 聯動微軟 Copilot 與輝達
Apple 宣佈加速推進 Apple Vision Pro 在企業級市場的落地。裝置深度整合機器學習模型與 M2 神經網路引擎，支援微軟 Copilot 空間辦公，並聯合輝達 Omniverse 進行工業級 3D 渲染與數字孿生設計。
Stability AI 釋出 Stable LM 2 12B：兼顧多語言與工具呼叫
Stability AI 推出開源模型 Stable LM 2 12B，包含基礎與指令微調版，基於 2 萬億 token 訓練並支援英、德、法等 7 種語言。其指令版支援工具呼叫與 RAG 檢索增強。同時 1.6B 版本也獲升級。個人研究免費，商用需開通會員。
Opera One 開發者版內建本地大模型：支援 Llama、Gemma 等 150 款
Opera 宣佈在 Opera One 開發者版本中測試內建本地大模型支援，覆蓋 Llama、Gemma、Mixtral 等約 50 個家族共 150 種模型變體。使用者可將模型下載至本地直接執行，單模型需 2 至 10 GB 儲存空間，資料無需上傳伺服器。目前僅向開發者通道開放測試。
蘋果公佈 ReALM 模型：把螢幕轉成文本，端側幹翻 GPT-4
Apple 研究團隊公佈新 AI 系統 ReALM。它巧妙地把螢幕實體轉化為純文本進行指代消解，不需要笨重的影像識別就能理解螢幕內容與後臺任務，特定任務表現甚至大幅超越 GPT-4。這預示著未來的 Siri 可以在裝置端直接看懂你的螢幕並代辦事項。
Ola 預告自動駕駛電瓶車 Ola Solo：愚人節玩笑背後的自平衡技術
Ola Electric CEO 預告自動駕駛電動踏板車 Ola Solo。雖然片中帶有愚人節搞笑成分，但他隨後澄清，團隊確實已造出自平衡與兩輪自動駕駛的原型技術，未來將落地在新品中。目前官方尚未公佈發售計劃。
Intel 爆料：微軟 Copilot 將支援本地執行，但門檻是 40 TOPS 算力
Intel 透露微軟計劃讓 Copilot 的更多功能直接在 PC 本地執行，從而減少雲端延遲並保護隱私。不過下一代 AI PC 要求 NPU 算力超過 40 TOPS，目前市面上在售的消費級處理器均未達到這一標準。
Apple 定檔 WWDC 2024：6 月 10 日開幕，重點看 iOS 18 生成式 AI
Apple 宣佈 2024 年全球開發者大會（WWDC）將於 6 月 10 日至 14 日舉行。除了釋出 iOS 18 等新系統，這次重心明顯轉向追趕生成式 AI，預計將帶來升級版 Siri、系統級文本摘要，以及具備程式碼補全能力的 Xcode AI 工具。
Stability AI 釋出 Stable Code Instruct 3B：30 億引數跑贏 CodeLlama 7B
Stability AI 釋出指令微調程式碼模型 Stable Code Instruct 3B。該模型僅 30 億引數，但在多項程式設計任務中超過了 CodeLlama 7B Instruct，低配置硬體即可執行。模型權重已在 Hugging Face 開放，商用需購買會員。
微軟釋出首批商用 AI PC：Surface 搭載 NPU 與專屬 Copilot 鍵
Microsoft 釋出面向企業使用者的 Surface Pro 10 和 Surface Laptop 6。兩款裝置搭載 Intel Core Ultra 處理器和整合 NPU，鍵盤配有專屬 Copilot 按鍵，支援 Windows Studio 等端側 AI 功能。裝置將於 4 月起發售。