跳到正文
IFAI

行业动态

甲骨文埃里森谈 AI 监控:未来将全天候记录所有人一举一动

首次发布 传播指数 43

Oracle 联合创始人 Larry Ellison 在分析师会议上表示,未来 AI 将驱动庞大的执法监控系统,全天候记录并监督警察与普通公民,以此降低犯罪率。不过外界担忧,基于历史偏差数据的全方位监控极易加剧社会歧视。

甲骨文埃里森谈 AI 监控:未来将全天候记录所有人一举一动
图:techcrunch.com

走在街上,满街的智能门铃和监控摄像头已经让人觉得无处遁形。但在 Oracle 董事长兼 CTO 拉里·埃里森眼里,这还只是个开始。

在近日举行的 Oracle 财务分析师会议上,这位身家 1570 亿美元的亿万富翁描绘了一个由 AI 全面接管的执法监控未来。埃里森直言,AI 将让公民变得规规矩矩,因为所有人的举动都会被时刻记录和分析。

摄像头、执法仪与追车的无人机

埃里森设想的监控网络覆盖面极广。未来 AI 将用来全天候观察和分析各种监控系统,包括安防摄像头、警察佩戴的执法记录仪、家用门铃摄像头以及车载行车记录仪。

按照埃里森的说法,这种全天候监控不仅对准公众,也对准执法者自身。他表示每位警察都将随时受到监督,一旦出现违规,AI 就会立刻向对应负责人报告。

埃里森认为,既然系统一直在记录和报告发生的一切,公民就会表现出最好的行为,犯罪率也将因此大幅降低。

除了常规摄像头,埃里森还预测自动驾驶无人机将取代警车的高速追捕。他认为在自动驾驶无人机时代,解决追车很简单,直接派无人机跟着车飞就行了。

目前 Oracle 正在全力开拓 AI 市场,手里已经有多个落地项目,其中包括与埃隆·马斯克的 SpaceX 展开合作。

数据偏见的隐患早有先例

埃里森对 AI 监控能减少犯罪的判断,在现实数据中并没有得到充分支持。

《华盛顿邮报》指出,美国的警务数据在历史上本身就带有偏差。如果直接把这些数据喂给 AI 模型,模型往往会推断某些社区存在更多犯罪活动,从而形成种族和阶层层面的恶性偏见循环。

早在 2019 年,洛杉矶警局就曾叫停过一项犯罪预测项目。当时的一项审计发现,该系统直接导致黑人和拉美裔群体遭受了更多、更密集的监视。

为什么重要

我们认为,埃里森勾勒的并非单纯的技术愿景,更像是科技巨头向政府执法部门推销云端算力与 AI 分析服务的商业蓝图。对 Oracle 来说,如果能把数以亿计的市政摄像头、家用门铃和警用设备接入自己的云平台,将是一笔难以想象的长期大单。

但这种把全天候监控当成社会治安解药的想法,隐患显而易见。从普通公民的角度来看,日常生活中的门铃和行车记录仪一旦被公权力与商业 AI 随意调用,个人隐私空间将被彻底压缩殆尽。

更关键的问题在于算法偏见。历史案例已经证明,预测性警务系统很容易放大现实执法中的不公,把有偏见的历史数据当成客观规律。如果科技公司在没有建立起严格的外部监管和纠错机制前,就急于把这类技术推向公共执法,带来的恐怕不是更安全的街道,而是系统性的社会割裂。

来源 (2)

  1. [1]
    techcrunch.com(在新标签页打开)原文techcrunch.com
  2. [2]
    businessinsider.com(在新标签页打开)报道businessinsider.com

每日 AI 内容精选