AI研究の倫理審査はどうあるべきか：学会横断での枠組み構築を研究者らが提言

2001年の炭疽菌テロ事件を受けて生物医学界がバイオセキュリティの監視体制を整え、ウイルス学が機能獲得実験の是非を長年議論してきたように、いまAI研究も同じ歴史的分岐点に立っています。

産学および非営利組織に所属する研究者グループが、AI研究における倫理審査の実践を前進させ、学術界全体で協調体制を築くべきだとする提言を発表しました。

従来の審査機関では防げないAIのリスク

これまで学術研究の倫理を担ってきたのは、大学などの機関審査委員会（IRB）でした。

しかしIRBは、臨床実験の被験者など「直接の参加者」の安全を守るために設計された仕組みです。

一方でAIシステムが引き起こす問題は、研究室の外側に広く波及します。

警察の取り締まりや自動判断システムにアルゴリズムが使われた際の偏見や不公正、データの収集やアノテーションを担う労働者の処遇などは、従来のIRBの枠組みでは完全に視野の外に置かれてしまいます。

技術の下流で生じる悪用や社会的被害を食い止めるには、これまでの仕組みだけでは不十分です。

チェックシートを超えた3つの提言

学会側も手をこまねいていたわけではありません。

2020年にはトップカンファレンスのNeurIPSが投稿論文に社会的影響に関する記述（インパクトステートメント）を義務付けるなど、査読プロセスに倫理審査を組み込む試みが始まりました。

しかし筆者らは、各学会や学術誌の取り組みが孤立した実験にとどまり、コミュニティ全体の合意形成が追いついていないと指摘します。

そこで研究者らは、次の3つの行動を提案しています。

1つ目は、現行の倫理審査プロセスが実際にどのような効果をもたらしているかを研究すること。

2つ目は、各学会が異なる審査方法を積極的に実験し比較すること。

3つ目は、AIコミュニティの内外から多様な意見を集め、規範を形成するための対話の場を作ることです。

なぜ重要か

この提言は、現在のAI学会が抱える「形骸化した倫理対策」という急所に切り込んでいます。

影響ステートメントの記入を義務付けても、審査基準が曖昧なままでは通り一遍の言い訳を並べるだけのセレモニーに陥りがちです。

学会ごとに基準がバラバラであれば、倫理的配慮を真面目に行う研究者ほど査読で不利になるという歪んだインセンティブも生じかねません。

学術誌やカンファレンスが横断的に連携して標準化を目指すアプローチは、極めて妥当で必要な一歩と言えます。

ただし課題も残ります。ただでさえ論文投稿数が爆発して査読者の負担が限界に達している中で、倫理審査の質をどう担保するのか、具体的な運用体制の構築は依然として大きな難題です。