跳到正文
IFAI

行业动态

Google 升级未成年人保护:用 ML 估算年龄,拓展青少年 AI 学习

首次发布 传播指数 35

Google 宣布为青少年和家长推出多项安全更新。平台将在美国测试基于机器学习的年龄估算模型,以判断用户是否未成年并自动开启保护;同时为青少年拓展交互式学习功能 Learn About 等生成式 AI 工具。

Google 升级未成年人保护:用 ML 估算年龄,拓展青少年 AI 学习
图:blog.google

管孩子的手机到底有多难,问问身边的家长就知道了。只要把手机递给孩子,你就得担心他们上课刷视频、收到乱七八糟的短信,或者在网上随便加陌生人。

Google 宣布了一批针对儿童、青少年和家长的全新数字保护措施,一口气把防御网从短信内容、学校自习、日常花钱铺到了 AI 时代。

上课锁死功能,短信自带预警

这次更新里,动作最直接的是 Google Messages 里的敏感内容警告功能。成年人可以在 Android 设置里选择主动开启,但对于 18 岁以下的用户,这项功能默认直接开启,受监管账号还会受到家长的直接管控。

不仅如此,Google 准备今年先在美国测试一套基于机器学习的年龄估算模型。这套模型的目标是猜出屏幕后的人到底满没满 18 岁,从而自动给他们套上对应的安全防护,之后还会推向更多国家。

针对家长们最头疼的课堂分心问题,Google 下周就会把名为「School Time」的功能推送到 Android 手机和平板上。家长可以直接设定时间段,在上学期间自动限制设备的功能和应用访问。

下个月起,家长还可以直接从自己的设备往孩子手机里添加联系人。家长能把通话和短信严格限制在这些核准过的名单里,陌生人根本聊不上话。

零花钱进手机钱包,学习用上新 AI

除了卡住安全红线,Google 也没打算把孩子完全关在数字世界之外。

今年春季,受监管的未成年 Android 用户将能在手机上使用 Google Wallet 碰碰付。家长可以直接把支付卡放进孩子的电子钱包,用来在实体店结账,家长不仅能审批和删除绑定的卡片,还能随时查看每一笔交易明细,孩子自己也能存礼品卡和活动门票。

在生成式 AI 方面,继 Gemini、Circle to Search 和 AI Overviews 之后,Google 计划在接下来的几个月里让青少年接触更多 AI 工具。其中就包括 Learn About,一个专门利用生成式 AI 提供交互式学习体验的新功能。

此外,Family Link 的管理面板也改版了,把最核心的屏幕使用时间工具摆在了最显眼的位置,方便家长同时照看多台 Android 和 Chrome 设备。

为什么重要

给未成年人划数字边界,科技巨头以前大多是做表面功夫,这次 Google 的思路明显务实了很多。对于普通家庭来说,给孩子买 Android 设备的门槛其实降低了,不仅能在上课时间把设备静音锁权限,还能顺理成章地用数字钱包发零花钱,不用再专门买儿童手表来解决支付和联系人白名单的问题。

我们认为,这里面最微妙也是最关键的一步,是 Google 打算用机器学习去估算用户年龄。长期以来,未成年人绕过监管的办法太简单了,注册时随便把出生年份往前填十年就行。

如果 Google 真的能靠行为模式把未成年人给揪出来,这确实堵住了一个大漏洞。但隐患也很显眼,靠算法去猜用户的真实年龄,背后到底扫描了多少行为习惯,这很容易在隐私层面引发新的争议。

放眼整个行业,面对全球各地越来越严苛的未成年人保护法规,Google 必须把防线前移。与一味禁止未成年人接触新技术的做法相比,Google 这一边把短信息、社交圈锁得更死,另一边又把生成式 AI 和碰碰付主动放开给青少年,看起来是想把 Android 打造成既安全又有实际用处的第一台正经设备。

来源 (1)

  1. [1]
    blog.google(在新标签页打开)原文blog.google

话题追踪Google AI 未成年人安全与访问政策

这个话题的历次新闻,最新的在上面。

  1. Google 放开 13 岁以下儿童用 Gemini:家长可控,承诺不拿数据训模型
  2. Google 升级未成年人保护:用 ML 估算年龄,拓展青少年 AI 学习本条

每日 AI 内容精选