跳到正文
IFAI

行业动态

哥伦比亚法官用 ChatGPT 判案引争议:把聊天记录写进判决书

首次发布 传播指数 43

哥伦比亚法官胡安·曼努埃尔·帕迪利亚承认在审理一起自闭症儿童医疗费用案时使用了 ChatGPT,并直接把与 AI 的问答附在判决书中。法官辩称这只是像秘书一样帮着整理起草文书、提高司法效率,但同行和学者对其法律素养与幻觉风险提出强烈质疑。

哥伦比亚法官用 ChatGPT 判案引争议:把聊天记录写进判决书
图:theguardian.com

法官写判决书时如果卡了壳,能不能打开聊天软件向 AI 求助?哥伦比亚的一位法官不仅这么做了,还把两人的聊天记录一字不差地写进了正式裁决文书里。

事情发生在加勒比海沿岸城市卡塔赫纳。当地法官胡安·曼努埃尔·帕迪利亚(Juan Manuel Padilla)在审理一起医疗保险纠纷案时,直接向 ChatGPT 咨询了案情的核心争议。

这起案件的当事人是一名患有自闭症的未成年儿童。因为父母无力承担昂贵开销,诉求是由医疗保险全额报销该儿童的所有医疗费用和交通补贴。

把聊天记录写进判决书

法官帕迪利亚最终判决医保公司全额支付这笔费用,判决本身其实并无太大争议,而且他也援引了以往的判例作为法律依据。

真正引发轩然大波的,是卷宗里白纸黑字的提问记录。

法律文书显示,法官直接敲下问题:“患有自闭症的未成年人是否可以免除治疗费用?”

ChatGPT 随后给出了肯定答复:“是的,这属实。根据哥伦比亚的法规,确诊自闭症的未成年人免于支付其治疗费用。”这行回复几乎原封不动地支撑了法官的裁判思路。

面对同行和法学界的质疑,帕迪利亚在接受电台采访时坚决为自己辩护。他解释说,哥伦比亚司法系统长期臃肿不堪、案卷堆积,AI 能够以极其有条理且清晰的方式完成过去由秘书承担的文本草拟工作,从而大幅提高审判效率。

帕迪利亚强调:“向软件提问,并不意味着我们不再是法官,也不意味着我们停止了思考。”

行业震动与幻觉担忧

这项操作在法律界迅速引来两极分化的讨论。

罗萨里奥大学教授胡安·大卫·古铁雷斯(Juan David Gutierrez)对法官的做法感到不可思议,他公开呼吁必须紧急对法官群体展开“数字素养”培训。

反对者的核心担忧在于,ChatGPT 依赖全网文本拼凑答案,同一问题可能给出截然相反的说法,更时常毫无征兆地编造事实。把涉及公众权益的司法裁决寄托在一个经常产生“幻觉”的模型上,风险难以预估。

不过,也有高层司法官员持开放态度。哥伦比亚在 2022 年就通过了一项法律,鼓励公共法律从业者尽可能借助技术手段提升效率。

哥伦比亚最高法院法官奥克塔维奥·特赫罗(Octavio Tejeiro)表示,人们对机器人取代法官有一种“道德恐慌”,但他预测这类工具很快会被普遍接受。他强调技术只能是辅助法官完善判断的工具,绝不能本末倒置让工具凌驾于人之上。特赫罗透露自己目前还没用过,但未来会考虑使用。

耐人寻味的是,当英国《卫报》就此事向 ChatGPT 提问时,AI 自己的态度反而更加保守。ChatGPT 回应称,法官在裁决案件时不应该使用它,因为它无法替代人类法官的专业知识与独立判断,甚至还顺便提醒记者,在报道中引用 AI 答案时也需保持谨慎。

为什么重要

我们认为,帕迪利亚法官的大胆尝试,提前把 AI 辅助办案的伦理和现实风险摆到了台面上。

对于背负大量案卷的法律工作者来说,用生成式 AI 整理卷宗要点、草拟格式化文书确实能省下大把时间。但问题在于,这位法官不是拿它来整理文书,而是直接向它寻求实体法律问题的答案。

这一步迈得非常激进,也极其危险。ChatGPT 并没有法学逻辑推理能力,它只是在预测下一个概率最高的词。一旦模型在法条细节或适用范围上产生细微幻觉,甚至编造虚假先例,而法官又未加严格核验,造成的错判将由普通公民买单。

对整个法律科技行业而言,这件事会逼迫司法系统尽快立规矩:AI 的介入边界到底在哪里。看起来,全盘禁止技术进入法庭既不现实也违背提效初衷,但法律界急需建立强制性的交叉核验机制,确保任何出自大模型的文本和结论都经过人类法官的严密复核,而不是直接被粘贴进决定人生命运的判决书里。

来源 (1)

  1. [1]
    theguardian.com(在新标签页打开)原文theguardian.com

每日 AI 内容精选