Stability AI 发布 Stable Code Instruct 3B:30 亿参数跑赢 CodeLlama 7B
Stability AI 发布指令微调代码模型 Stable Code Instruct 3B。该模型仅 30 亿参数,但在多项编程任务中超过了 CodeLlama 7B Instruct,低配置硬件即可运行。模型权重已在 Hugging Face 开放,商用需购买会员。
Stability AI 发布指令微调代码模型 Stable Code Instruct 3B。该模型仅 30 亿参数,但在多项编程任务中超过了 CodeLlama 7B Instruct,低配置硬件即可运行。模型权重已在 Hugging Face 开放,商用需购买会员。
Stack Overflow 推出 OverflowAPI 并宣布 Google 为首个合作伙伴。Google 将把 Stack Overflow 验证过的问答库整合进 Gemini for Google Cloud 和控制台,回答中会附带引用来源;同时 Stack Overflow 也将借 Vertex AI 为社区引入 AI 辅助功能。
GitHub 宣布 GitHub Copilot Enterprise 正式商用,定价每月每用户 39 美元。它能结合企业私有代码库回答问题、在网页端直接对话并自动生成 PR 摘要,还内嵌了 Bing 联网搜索。官方承诺默认绝不使用私有代码训练模型。
据彭博社报道,Apple 扩大了 Xcode 编程软件生成式 AI 功能的内部测试,计划今年向第三方开发者发布。该工具类似 GitHub Copilot,能自动预测补全代码并编写测试。此外,苹果还在探索支持自然语言的 Spotlight 对话式搜索,预计将在今年 WWDC 披露更多进展。
Perplexity 宣布与前端开发平台 Vercel 达成合作,开发者可通过 Vercel AI SDK 直接调用其实时联网模型 pplx-7b-online 与 pplx-70b-online。模型自带全网索引抓取,应用回答不再受知识截止期限制。Vercel 同时也上线了多模型调试操场。
初创公司 Abacus AI 公布基于通义千问 Qwen-72B 微调的模型 Smaug-72B。它是首个在 Hugging Face 开源排行榜上综合均分破 80 的模型,在多个基准测试中超过了 GPT-3.5 和 Mistral Medium。团队针对推理和数学能力做了专项微调,模型现已完全开源。
Meta 发布代码生成模型 Code Llama 70B,包含基础版、指令微调版及 Python 专版。该模型基于 5000 亿 token 代码训练,支持 10 万 token 上下文窗口,沿用先前的开源许可协议,允许学术和商业免费微调与使用。
OpenAI 推出两款新嵌入模型 text-embedding-3-small 与 large,支持灵活缩短维度以降低存储成本,小模型价格降至上一代的五分之一。同时,GPT-3.5 Turbo 输入价格降低 50%,更新版 GPT-4 Turbo 预览版也上线并改善了代码生成偷懒问题。
GitHub 宣布 GitHub Copilot Chat 正式向所有个人和企业用户开放。该功能基于 GPT-4,支持在 Visual Studio Code 和 Visual Studio 中用自然语言辅助编程,涵盖代码解释与漏洞检测等能力,所有订阅者无需额外付费即可使用。
Google 宣布将 Colab 的 AI 编程辅助功能下放给包括免费版在内的所有用户。符合支持地区的用户可以直接体验自然语言生成代码以及 AI 报错解释功能。该限时试用预计持续到 2024 年,极大降低了学生和开发者的机器学习门槛。
Google 正式向开发者与企业开放 Gemini Pro 和多模态接口 Gemini Pro Vision。模型支持 32K 文本上下文、函数调用与 38 种语言。开发者可通过 Google AI Studio 免费调用,每分钟上限 60 次请求;企业用户则可在 Vertex AI 上定制微调。
Microsoft 正式发布 27 亿参数语言模型 Phi-2。该模型依靠「教科书级」高质量数据和知识继承,在代码与数学等多步推理任务上超越了体量大其 25 倍的 Llama-2-70B。小尺寸模型也能展现涌现能力,便于研究人员探索模型机理与微调。
YouTuber Greg Technology 用 GPT-4V 复现了 Google 宣传片中被质疑剪辑造假的 Gemini 演示。他自制工具让 GPT-4 实时识别手势、画作和玩猜拳,不仅全程实时运行,还把代码开源到了 GitHub 供人自测。
AWS 宣布推出生成式 AI 助手 Amazon Q。它专为工作场景设计,能接入企业内部数据和系统来回答问题、编写代码并排查云服务故障,且严格遵循权限配置。最值得关注的是,AWS 承诺绝不拿企业客户数据训练底层模型。目前已开启预览测试。
AI 搜索引擎 You.com 推出全新 API,让 Meta Llama 2 等大模型能实时获取公开网络最新内容。与 Bing 和 Google 不同的长文本摘要索引,提供搜索、新闻与 RAG 三种模式,每月 100 美元起,Anthropic 和 Cohere 已接入。
GitHub 为 GitHub Advanced Security 推出三项 AI 功能预览。代码扫描能针对 JavaScript 和 TypeScript 的告警由大模型自动生成修复代码并直接提交;秘密扫描利用 AI 识别无固定格式的泄露密码;此外还支持用问答方式生成自定义正则规则。
Meta 联合 Hugging Face 和欧洲云厂商 Scaleway 推出 AI 初创企业加速计划。该项目落地巴黎 STATION F,将为 5 家入选的开源初创团队提供 FAIR 导师指导、开发工具及算力支持,推动开源大模型在欧洲落地。
Xbox 宣布与 Inworld AI 达成多年合作,联合开发面向游戏创作者的生成式 AI 工具集。工具包括把提示词转为剧本和对话树的设计 Copilot,以及能动态生成剧情和任务的角色运行时引擎,供各类工作室在多平台使用。
OpenAI 在 DevDay 推出 GPT-4 Turbo,上下文直接拉到 128K,输入和输出价格比原版便宜了三分之二和一半。官方还同步上线 Assistants API,自带代码解释器和检索功能,开发者不用再为管理状态和切分向量抓狂了。
Phind 推出自研编程模型,在 HumanEval 评估中取得 74.7% 的成绩,编码表现超越 GPT-4。借助 NVIDIA TensorRT-LLM 与 H100,生成速度达每秒 100 token,并支持 16k 上下文。该模型已在 Hugging Face 开源,同时提供网页端与 VS Code 插件免费试用。