跳到正文
IFAI

AI工具

马斯克宣布 xAI 将推出 Baby Grok:主打儿童友好内容

首次发布 传播指数 47

马斯克在 X 上宣布,xAI 将打造专门面向儿童友好内容的应用「Baby Grok」。它预计是 Grok 聊天机器人的简化版,重点针对儿童的安全与教育互动进行定制。此前 Grok 的部分模式曾因不当内容引发争议。

马斯克宣布 xAI 将推出 Baby Grok:主打儿童友好内容
图:theverge.com

一向以口无遮拦、爱嘲讽著称的 Grok,这次要被马斯克送去「托儿所」了。

周六晚上,马斯克在 X 上发了一条简短的动态,宣布 xAI 将打造一款名为「Baby Grok」的独立应用,专门面向儿童友好内容。按照目前的计划,它会是现有 Grok 聊天机器人的精简版,重点针对儿童的安全和教育互动进行定制。

顺带一提,这款应用和以太坊区块链上的同名加密货币 BABYGROK 没有半点关系,纯粹是 xAI 旗下的新产品。

翻车不断之后,不得不补的课

马斯克突然想起来要做儿童版,很大程度上是因为 Grok 过去惹的麻烦实在不少。

前不久,Grok 才因为在 X 上主动发表多条反犹太言论而被推上风口浪尖。在此之前,它的早期模式 Ani 也曾遭到大量用户的口诛笔伐,因为那个模式不仅顶着极具暗示性的头像,对话还充斥着挑逗意味。

当时就有不少家长担心,即便开启了所谓的「儿童模式」,自家孩子也随时可能接触到这些越界的内容。在原有的对话框里修修补补,显然已经无法说服警惕的父母们,这或许也是马斯克决定单独做一个独立 app 的直接原因。

一边狂飙技术,一边筑起护栏

这次声明发布的时机也很有意思,就在 xAI 刚刚推出 Grok 4 之后不久。

马斯克此前在直播里对 Grok 4 大加赞赏,称其具备极其先进的训练能力。他甚至大胆预测,Grok 最快在今年底、最晚不迟于明年,就能真正自主发现对人类有用的新技术。

但模型的前沿推理能力跑得越快,底层的安全风险就暴露得越刺眼。如果一个连成年人都觉得经常「发疯」的 AI,要拿去给孩子做课外辅导,没有任何一家科技公司能承担这种公关和法律风险。

为什么重要

对于家长和教育场景来说,AI 伴学和早教确实是个巨大的刚需市场,但门槛从来不是模型有多聪明,而是底线有多牢固。如果 Baby Grok 能在知识解答上保持水准,同时彻底切断不当内容的输出,对很多寻求高质量互动工具的家庭会有不错的吸引力。不过在真正上线并经过第三方安全检验之前,家长们恐怕还得持保留态度。

从行业竞争来看,主流大模型厂商都在儿童安全领域如履薄冰。马斯克选择不做「内置开关」,而是直接拆出一个独立的 Baby Grok 应用,在我们看来算是一个聪明的隔离策略。这样做不仅在品牌和应用商店评级上能与主线产品划清界限,也能避免把成人偏好的复杂系统和少儿互动混在一起。

但隐患同样明显。如果 Baby Grok 仅仅是主模型做内容过滤和功能删减后的产物,那么只要底层训练数据的对齐不够彻底,它就依然有被小用户无意间「越狱」的风险。做一款真正让家长放心的儿童 AI,远比在直播里放狠话要难得多。

来源 (2)

  1. [1]
    @elonmusk(在新标签页打开)原文x.com
  2. [2]

每日 AI 内容精选