洛杉矶公交加装 AI 摄像头：专抓违停占道，人工复核后开罚单
据洛杉矶时报报道，洛杉矶交通局（LA Metro）正在公交车上安装 AI 摄像头，自动抓拍违规占用公交专用道和停靠站的车辆。违法证据将转交当地交通局由人工复核后决定是否开出罚单。项目预计今夏测试，年底正式上线。
端侧AI
查看更新的新闻
商汤发布日日新 5.0：支持 20 万上下文，主打端云协同矩阵
SenseTime 在上海技术交流日发布 SenseNova 5.0 大模型及端侧产品矩阵。新模型训练数据超 10TB token，支持约 20 万有效上下文，在多模态基准 MMBench 上获综合第一。同时推出的端侧模型在旗舰平台每秒可生成 78.3 字。
微软发布 Phi-3 Mini：38 亿参数，号称比肩 GPT-3.5
微软发布轻量级 AI 模型 Phi-3 Mini，参数量仅 38 亿。该模型利用大模型生成的「儿童故事」数据训练，官方称其表现接近体量大它十倍的模型。模型现已上线 Azure、Hugging Face 和 Ollama，后续还将推出 7B 和 14B 版本。
据报苹果收购法国初创 Datakalab：瞄准端侧 AI 压缩与视觉
据外媒报道，苹果已于 12 月收购法国初创公司 Datakalab。该公司专攻低功耗端侧 AI 压缩与计算机视觉，擅长在 100 毫秒内完成本地匿名图像处理。这显然是苹果在为 iOS 18 的端侧 AI 以及 Vision Pro 补充关键技术储备。
国际奥委会发布 AI 议程：0.1 秒拆解跳水动作，还要在全球基层选苗子
国际奥委会公布「奥林匹克 AI 议程」，探索将 AI 用于裁判辅助、潜能发掘和赛事组织。现场展示了 0.1 秒内拆解跳水翻腾动作辅助打分，以及英特尔用手机测试在塞内加尔发掘体育新秀。部分成果将在巴黎奥运会落地，但裁判边界与伦理争议仍存。
Meta 发布开源模型 Llama 3：推 8B 和 70B 版本，训练数据达 15T
Meta 正式发布开源大模型 Llama 3，首发推出 8B 和 70B 两种尺寸的基础与指令微调版本。新模型基于超 15 万亿 token 训练，词表扩充至 12.8 万，8B 版本在消费级显卡上即可微调与运行。最值得关注的是，开源生态再次迎来标杆级底座；不过当前上下文长度仍为 8k tokens。
NVIDIA 全面加速 Llama 3：单张 H200 跑 70B 每秒吐 3000 token
NVIDIA 宣布对 Meta 新发布的 Llama 3 进行全平台推理优化。测试显示，单张 H200 运行 700 亿参数版本时每秒生成约 3000 token，可同时服务约 300 名用户；80 亿参数版本也已适配 Jetson 和 RTX PC。开发者可直接通过 NIM 微服务在浏览器中试用。
传苹果 iOS 18 首批 AI 功能全走端侧：主打隐私，断网也能用
据报道，苹果计划在 iOS 18 中推出的首批 AI 功能将完全在设备端运行，无需联网或云端处理。基础文本分析与回复预计覆盖信息、Safari 和 Siri，更高级功能或需联网。苹果预计在 6 月 10 日的 WWDC 上正式公布详情。
PaintCam 推出安防相机 Eve：用 AI 识别人脸，还能发射彩弹与催泪瓦斯
斯洛文尼亚公司 PaintCam 推出家用安防相机 Eve，搭载计算机视觉识别访客与闯入者，若警告无效可直接发射彩弹或催泪弹反击。最值得关注的是，安防设备从被动监控走向主动开火，但也引发了误伤与法律责任争议。
Hugging Face 发布 Idefics2：8B 视觉大模型开源，OCR 与图文推理大涨
Hugging Face 推出开源多模态模型 Idefics2。它仅有 8B 参数，采用 Apache 2.0 协议，支持原生图像分辨率输入并大幅强化了 OCR 与文档问答能力。其视觉问答表现在同量级拔尖，甚至能叫板 30B 级别的闭源与大尺寸模型。
Google 联合 Hugging Face 开源 CodeGemma：主打代码补全，轻至 2B
Google 联合 Hugging Face 上线代码模型 CodeGemma。该系列在 Gemma 基础上补充了 5000 亿 token 训练，推出主打代码填充的 2B 版本、兼顾自然语言的 7B 基础版及 7B 对话版。其中 2B 版仅需约 6 GB 内存，适合在端侧设备快速补全代码。
苹果押注企业级市场：Vision Pro 联动微软 Copilot 与英伟达
Apple 宣布加速推进 Apple Vision Pro 在企业级市场的落地。设备深度整合机器学习模型与 M2 神经网络引擎，支持微软 Copilot 空间办公，并联合英伟达 Omniverse 进行工业级 3D 渲染与数字孪生设计。
Stability AI 发布 Stable LM 2 12B：兼顾多语言与工具调用
Stability AI 推出开源模型 Stable LM 2 12B，包含基础与指令微调版，基于 2 万亿 token 训练并支持英、德、法等 7 种语言。其指令版支持工具调用与 RAG 检索增强。同时 1.6B 版本也获升级。个人研究免费，商用需开通会员。
Opera One 开发者版内置本地大模型：支持 Llama、Gemma 等 150 款
Opera 宣布在 Opera One 开发者版本中测试内置本地大模型支持，覆盖 Llama、Gemma、Mixtral 等约 50 个家族共 150 种模型变体。用户可将模型下载至本地直接运行，单模型需 2 至 10 GB 存储空间，数据无需上传服务器。目前仅向开发者通道开放测试。
苹果公布 ReALM 模型：把屏幕转成文本，端侧干翻 GPT-4
Apple 研究团队公布新 AI 系统 ReALM。它巧妙地把屏幕实体转化为纯文本进行指代消解，不需要笨重的图像识别就能理解屏幕内容与后台任务，特定任务表现甚至大幅超越 GPT-4。这预示着未来的 Siri 可以在设备端直接看懂你的屏幕并代办事项。
Ola 预告自动驾驶电瓶车 Ola Solo：愚人节玩笑背后的自平衡技术
Ola Electric CEO 预告自动驾驶电动踏板车 Ola Solo。虽然片中带有愚人节搞笑成分，但他随后澄清，团队确实已造出自平衡与两轮自动驾驶的原型技术，未来将落地在新品中。目前官方尚未公布发售计划。
Intel 爆料：微软 Copilot 将支持本地运行，但门槛是 40 TOPS 算力
Intel 透露微软计划让 Copilot 的更多功能直接在 PC 本地运行，从而减少云端延迟并保护隐私。不过下一代 AI PC 要求 NPU 算力超过 40 TOPS，目前市面上在售的消费级处理器均未达到这一标准。
Apple 定档 WWDC 2024：6 月 10 日开幕，重点看 iOS 18 生成式 AI
Apple 宣布 2024 年全球开发者大会（WWDC）将于 6 月 10 日至 14 日举行。除了发布 iOS 18 等新系统，这次重心明显转向追赶生成式 AI，预计将带来升级版 Siri、系统级文本摘要，以及具备代码补全能力的 Xcode AI 工具。
Stability AI 发布 Stable Code Instruct 3B：30 亿参数跑赢 CodeLlama 7B
Stability AI 发布指令微调代码模型 Stable Code Instruct 3B。该模型仅 30 亿参数，但在多项编程任务中超过了 CodeLlama 7B Instruct，低配置硬件即可运行。模型权重已在 Hugging Face 开放，商用需购买会员。
微软发布首批商用 AI PC：Surface 搭载 NPU 与专属 Copilot 键
Microsoft 发布面向企业用户的 Surface Pro 10 和 Surface Laptop 6。两款设备搭载 Intel Core Ultra 处理器和集成 NPU，键盘配有专属 Copilot 按键，支持 Windows Studio 等端侧 AI 功能。设备将于 4 月起发售。