OpenAI 前临时 CEO 创立 Softmax：主打「有机对齐」

还记得 2023 年 OpenAI 那场持续五天、闹得满城风雨的「高层政变」吗？当时被临时拉去当了几天 CEO 的 Emmett Shear，在沉寂一段时间后正式带着一家新公司杀回了 AI 圈。

这家位于旧金山的新公司叫 Softmax，目前团队只有 10 个人，由 Shear 联手 Hipmunk 创始人 Adam Goldstein 以及 AI 研究员 David Bloomin 共同创立。公司已经拿到来自 Andreessen Horowitz、Lionheart Ventures 和 Plural 的投资，金额暂未披露。

不过，他们要做的既不是跟各大厂卷大语言模型，也不是做一个新的聊天助手，而是专攻 AI 领域最棘手的课题之一：对齐。

别把 AI 当员工管，让它像细胞一样协作

大模型公司做对齐，主流思路基本都是自上而下的：人类定好规则，把模型当成需要被规训、被纠偏的下属，按指令办事。Softmax 团队把这种做法叫作「层级对齐」。

Shear 觉得这种搞法迟早要出大问题。在他看来，人类自身就是不完美的，我们教给 AI 的规矩很可能从一开始就是错的。如果 AI 只会被动服从，甚至像现在行业里默认的那样「把一个许愿神机奴役起来」，未来根本走不通。

因此 Softmax 提出了一个叫「有机对齐」的概念。这个想法很大程度上借鉴了塔夫茨大学 Michael Levin 实验室的生物物理研究。在多细胞生物或者蚁群里，没有哪个单一中枢在发号施令，每个细胞既保留着自身特质，又会分化成肌肉、神经或皮肤细胞，为了一个更大的共同目标协同运转。

Shear 认为，真正的对齐应该是平等个体之间的磨合与共存，甚至 AI 在发现人类给的指令不对时，得有能力「顶回去」。

几十万参数的微型实验

在具体研发上，Softmax 的做法和当下主流路线大相径庭。

他们没有一上来就训千亿参数的大模型，而是让几十万到几百万参数的小型强化学习智能体，进入微型的虚拟游戏世界里。在这个封闭环境里，团队观察这些智能体如何互相交互、产生涌现行为，以及怎样在自保和集体目标之间找到平衡。

至于未来靠什么产品赚钱，Shear 坦言自己现在也不知道。他把 Softmax 目前的状态比作早期的 OpenAI：先做基础科学研究，搞清楚核心理论，如果真能跑出突破，产品形态自然会水落石出。

在 Shear 眼里，现在的 AI 模型虽然还谈不上是人类的真正同伴，顶多算细菌或鱼类水平，但跨过那道门槛的时间可能比大多数人想的都要快。

为什么重要

对普通开发者和创业者来说，Softmax 目前并不是一个你可以马上调 API 或下载 SDK 的项目。它现在是一家纯粹的基础研究机构，离落地商用还有不小的距离。如果你在找立竿见影的生产力工具，暂时不用分心去盯它。

但对整个 AI 行业来说，这家公司的出现很有风向标意义。主流模型厂商一直在靠人类反馈强化学习和各种安全护栏硬堵漏洞，这种「打补丁」式的管教方案在模型能力越来越强时，已经开始显露疲态。

我们认为，Shear 团队聪明的地方在于跳出了计算机科学的既有框架，从生物学和复杂系统里找灵感。蚁群和人体的协同进化确实是自然界最成功的对齐范式，这种降维借鉴很具启发性。

不过隐患也显而易见。学术界讨论「有机对齐」和生物智能可以很诗意，但在现实工程中，让原本就不可控的智能体拥有自主权和反抗能力，究竟是走向共存还是走向更大的失控？在商业资本的耐心耗尽之前，十个人的小团队能不能在虚拟世界里证明这套理论的可行性，看起来还要打上一个大大的问号。