OpenAI 成立超级对齐团队:押上 20% 算力,四年内解决失控风险
OpenAI 宣布成立「超级对齐」团队,由首席科学家 Ilya Sutskever 和 Jan Leike 共同牵头。团队计划在未来四年投入已掌握算力的 20%,目标是造出人类水平的自动化对齐研究员,用 AI 监督更聪明的 AI。OpenAI 认为超级智能可能在十年内到来,人类必须赶在失控前找到可扩展的控制方案。
OpenAI 宣布成立「超级对齐」团队,由首席科学家 Ilya Sutskever 和 Jan Leike 共同牵头。团队计划在未来四年投入已掌握算力的 20%,目标是造出人类水平的自动化对齐研究员,用 AI 监督更聪明的 AI。OpenAI 认为超级智能可能在十年内到来,人类必须赶在失控前找到可扩展的控制方案。
Insilico Medicine 宣布其完全由生成式 AI 辅助发现的特发性肺纤维化候选药物进入 2 期临床试验。团队用 Pharma.AI 贯穿靶点发现到分子生成全流程,耗时仅需传统研发的三分之一,花费也只要十分之一。该药将在中美两国患者中开展测试。
EPFL 研究发现,Amazon Mechanical Turk 上 33% 到 46% 的零工标注员正使用 ChatGPT 代工完成标注。这种用 AI 生成数据再训 AI 的做法可能放大错误与幻觉,且极难追溯。目前行业仍缺乏区分人机标注的有效手段。
堪萨斯大学团队训练出一种机器学习算法,专门识别 ChatGPT 撰写的学术论文,整篇识别准确率达 100%,段落级达 92%。它主要通过词汇丰富度、段落长度和标点差异来判别。不过测试样本量较小,对人类微调过的文本识别能力仍存疑。
NVIDIA 推出 3D 重建模型 Neuralangelo,能将普通多角度 2D 视频直接转化为高精度 3D 资产。它借鉴了 Instant NeRF 的底层技术,能精细还原大理石纹理与建筑细节,大幅降低游戏开发与数字孪生的建模门槛,代码已在 GitHub 开源。
美加研究人员利用 AI 筛选药物分子,仅用一个半小时就从 6680 种未知化合物中圈定候选名单,最终发现能精准杀灭致命超级细菌的新型抗生素 abaucin。该药仅针对目标病菌有效,不易产生耐药性,但距 2030 年临床应用仍有漫长实验要走。
研究人员公布图像操控工具 DragGAN。用户只需在图片上设置控制点并拖拽,AI 就能在几秒内重新生成内容,甚至支持 3D 旋转和补全遮挡细节。这意味着精准控制生成图像不再全靠抽卡提示词,不过该技术目前仍处于论文演示阶段。
得克萨斯大学奥斯汀分校团队在《自然-神经科学》发表成果,利用 fMRI 扫描与 GPT 模型,首次非侵入式将人脑活动解码为连续文本。系统能抓住受试者听到甚至想象的语义大意,有望帮失语患者发声,但团队也提醒需防范思维隐私风险。
TechCrunch 报道 OpenAI 发表「一致性模型」(Consistency Models)论文,尝试用一到两步计算完成图像生成。传统扩散模型需要数十至上千步去噪,而新模型能在单步内搞定生成、上色或超分,速度快一个数量级。虽然初期画质较粗糙,但为手机端侧运行和实时生图打开了新方向。
Carnegie Mellon、Yale 与 UC Berkeley 研究团队公布新发现,GPT-4 在数据标注任务上的表现超越了高水平众包工人。面对 572,322 个文本场景标注,团队改用 GPT-4 仅花费不到 5,000 美元,省下超 500,000 美元和 20,000 小时工时。AI 标签与专家更吻合,直接动摇了传统数据标注产业。
斯坦福大学团队提出生成式智能体架构,将记忆、反思与规划引入大模型。研究人员把 25 个由 ChatGPT 驱动的智能体放入类似《模拟人生》的虚拟小镇,它们不仅自发办派对、参选市长,在评测中甚至被认为比真人扮演更像人类。
Apple 研究团队公布生成框架 FaceLit。它无需人工标注或复杂采集设备,直接从普通 2D 图像学习生成 3D 人脸,并结合反射模型实现自由调节光照与视角,在 FFHQ 数据集上创下 3.5 的 FID 成绩。
周二,John Hopkins University 牵头的科研团队在《Frontiers》发表论文,提出结合 3D 人脑类器官与脑机接口的「类器官智能」概念。研究团队希望利用人脑超百亿神经元的连接方式突破硅基芯片物理极限,用于医学和新一代生物计算,但目前仍处在早期探索阶段。
Google Brain 与 UC 伯克利等机构发布研究,证实 Stable Diffusion 和 Imagen 等扩散模型会记忆训练数据,特定提示词会直接复现受版权保护的原图。虽然测试中复现率仅 0.03%,但随着模型变大,侵权与隐私泄漏风险将显著上升。