跳到正文
IFAI

AI科研

阿布扎比团队研发笔迹模仿 AI:仅需几段样稿,真假难辨

首次发布 传播指数 31

Mohamed Bin Zayed University of Artificial Intelligence 的研究人员开发出能逼真模仿笔迹的 AI 工具。模型仅需几段手写文本训练,测试者便无法分辨真伪。鉴于存在伪造风险,该工具虽已获专利但暂不对公众开放。

阿布扎比团队研发笔迹模仿 AI:仅需几段样稿,真假难辨
图:mashable.com

AI 已经学会了模仿你的声音,甚至能凭空画出逼真的照片,现在它把目光投向了另一个看似更私密的人类特征:你的亲笔字迹。

来自阿布扎比穆罕默德·本·扎耶德人工智能大学的研究人员,最近开发出一款能高度克隆人类手写笔迹的 AI 工具。更让人头皮发麻的是它的学习成本,模型只需要目标人物写过的短短几个段落,就能完成训练并开始模仿。

只要几段字,肉眼已经分不出真假

根据研究团队的说法,在实际测试中,受试者已经完全无法区分 AI 模仿出来的笔迹和真实的亲笔手写。参与该项目的研究员 Salman Khan 在新闻稿中表示,看到模型达到让人难辨真伪的水平,他们对测试表现非常满意。

这项技术目前主要针对英文手写输入。研究团队最近已经为该工具拿下了专利,但出于安全考虑,他们并没有向公众开放这个模型。

除了克隆字迹,团队在接受彭博社采访时透露,这项技术其实还能反向使用,比如用来识别和解读那些极其潦草、几乎无法辨认的文字,医院里医生写的天书病历就是最典型的潜在场景。

开发者自己也害怕被滥用

虽然技术取得了突破,但研究人员并没有急着把它做成产品上线,反而公开表达了对伪造风险的担忧。

研究员 Rao Muhammad Anwer 直言,团队在部署上面表现得极其谨慎,因为手写往往代表着一个人的独特身份认同,一旦被怀有恶意的人拿去伪造签名或书信,后果会非常严重。

为了应对这种潜在危险,团队表示他们正在同步研发专门的防伪工具,试图在生成技术扩散之前,先给防守方准备好盾牌。

为什么重要

在很多人的潜意识里,笔迹和签名依然是物理世界里最后一道防线。不管是重要的纸质合同、支票签名,还是私人书信,我们习惯了把手写当作确认本人身份的铁证。但这项研究表明,手写字迹在 AI 面前同样不再安全,只要随便拿到你写过的几张便签,别人就能伪造出一整篇看起来出自你手的文件。

从行业角度看,生成式 AI 的战线正在从数字媒体向物理凭证的数字化复刻蔓延。以前搞笔迹鉴定靠的是专家拿放大镜看笔锋、墨水压痕和连笔习惯,但当算法能完美学走这些微小特征时,传统的司法鉴定和防伪体系就必须全面重构。

我们认为,研发团队选择压住模型不公开发布,并且同步开发防伪检测手段,是一个非常清醒且负责任的举动。不过隐患在于,手写生成的底层技术逻辑并不算极高门槛,单靠专利和扣住源码,很难阻止其他团队独立复现。如何赶在恶意滥用发生之前建立起有效的防伪认证标准,看起来才是留给全行业的真正难题。

来源 (1)

  1. [1]
    mashable.com(在新标签页打开)原文mashable.com

每日 AI 内容精选