AI 教父 Hinton 敲警钟：我不信「好 AI」一定能压制「坏 AI」

科技圈最近流行一种乐观的说法：只要我们做出足够多「善良的 AI」，就能把「使坏的 AI」防得死死的。

但这套设想在 AI 教父 Geoffrey Hinton 眼里，根本站不住脚。

今年春天刚从 Google 离职的 Hinton，本周在多伦多举办的 Collision 大会上直言，他完全不相信好 AI 能够管住坏 AI。这位一手奠定现代神经网络基础的学者，退出了大厂的竞速游戏，就是为了不受约束地向所有人敲响警钟。

军用机器人、贫富差距，还有转行修水管

Hinton 指出，技术的好坏取决于背后的人，但恶意的技术完全有可能占上风。他反问，如果有人要用 AI 做恶，指望一个善良的 AI 去夺回控制权真的现实吗？

比如军工复合体去造战斗机器人，根本没人挡得住。军队和军火商很可能喜欢这种战争，因为战场上死掉的只是随时可以替换的冰冷机器。而在社会层面，虽然像 GPT-4 这样的大模型能大幅提升生产力，但收益很可能会被既得利益者垄断，直接导致富人更富、穷人更穷。

面对自动化带来的失业潮，Hinton 甚至直言需要某种程度的社会主义来应对财富不平等。被问到普通人怎么防身时，他给了一个半开玩笑却很认真的建议：去学一门不容易被替代的手艺，比如当个水管工。

至于生存危机，Hinton 强调这绝非科幻。一旦 AI 变得比人类更聪明，人类就没有底气保证自己还能坐在驾驶位上。社会的悲哀之处在于，大家往往要亲眼看到杀人机器人到底有多可怕，才愿意坐下来谈监管。

会场内的两个世界

有意思的是，Collision 会场上的其他科技巨头高管，画风完全不同。

Google DeepMind 首席商务官 Colin Murdoch 在同场活动中表示，过去半年到一年是 AI 的「顿悟时刻」。他列举了 DeepMind 的成果：解析所有已知蛋白质、对抗耐药菌、加速疟疾疫苗研发。他觉得通用人工智能能解决人类最头疼的难题，只要监管不扼杀突破就好。

Roblox 首席科学家 Morgan McGuire 也持乐观态度。他认为生成式 AI 抹平了新手和资深创作者的差距，他们甚至推出了开源模型 StarCoder，坚信虚拟世界有无限可能。

Hinton 自己其实也承认，他对这门技术的热爱一点没变。如果不离开 Google，他现在肯定还在带头死磕多模态模型。但他无法无视 GPT-4 已经展现出的微弱推理能力，以及伴随而来的偏见、信息茧房和深伪内容。

为什么重要

我们认为，Hinton 的发言之所以重磅，在于他戳破了硅谷用「技术对冲技术」来逃避治理责任的幻想。

行业现在最喜欢的叙事，是把安全问题变成下一代模型的功能点：坏人有黑客 AI，我们就卖防御 AI；有人造假图，我们就卖鉴别工具。但 Hinton 指出了逻辑漏洞：在不对称攻击中，防守方的成本和难度远高于进攻方，指望所谓的好 AI 去实时拦截坏 AI，在工程和制度上都很脆弱。

对于普通打工人和开发者来说，大模型红利和生存焦虑同时摆在眼前。现在确实值得去学、去用 AI 工具提升效率，但别指望技术本身会带来公平。利润最终流向谁，拼的依然是资本和生产资料的分配。

巨头们展示的蛋白质折叠和编程助手固然令人兴奋，但如果像 Hinton 这样的底层架构奠基人都开始对防线失去信心，整个行业就不能只顾着往前狂奔，把刹车完全推给虚无缥缈的自律。