OpenAI、GPT-4 を活用したコンテンツモデレーション手法を発表

コンテンツモデレーションは長年、過酷な心理的負担を伴う人間の泥臭い作業としてプラットフォームを支えてきました。

OpenAIは公式ブログにおいて、主力の大規模言語モデル「GPT-4」をコンテンツ監視業務に活用する新たなアプローチを発表しました。

同社によれば、一部の顧客はすでに本プロセスを導入しており、新たなポリシーの策定から現場適用までの期間をわずか数時間に短縮できているといいます。

人間とAIが推論を突き合わせる仕組み

OpenAIが提示した手法は、単に判定をAIに丸投げするものではありません。

まずポリシー担当者が「武器の製造指示を禁じる」といった基準を自然言語で記述し、違反例と非違反例を集めたテストデータを用意します。

人間側が正解ラベルをつけた上で、ラベルのないデータをGPT-4に入力し、両者の判定結果を照合します。

両者の意見が食い違った場合、担当者はGPT-4に対して判定の根拠を説明させ、ルールの曖昧な部分を特定して規約を改定していきます。

OpenAIはこの手法について、モデルの内面化された判断に依存しがちなAnthropicのアプローチよりも柔軟であり、プラットフォームごとの迅速な適応が可能だと主張しています。

過去の自動検閲ツールが残した課題

AIによるコンテンツ監視自体は目新しいものではなく、すでに先行事例が多数存在します。

米Google傘下のJigsawが開発した「Perspective」は何年も前から提供されており、Spectrum LabsやHive、最近米Redditに買収されたOterluなどの新興企業も参入しています。

しかし、これまでの自動ツールは決して万能ではありませんでした。

ペンシルベニア州立大学の研究では、障害者に関する一般的な投稿が感情分析や有害性検出モデルによって否定的な内容と誤判定される傾向が確認されています。

また、かつてのPerspectiveは当事者が自称として使い直した言葉や、意図的なスペルミスを見逃すケースが指摘されてきました。

データにラベルをつける作業者のバックグラウンドによって判定に偏りが生じることも構造的な原因となっています。

OpenAI自身も、GPT-4が事前学習データに起因する不要なバイアスを内在させている可能性を認めており、人間の監視が不可欠であると強調しています。

なぜ重要か

オンラインサービスを運営する事業者にとって、新しい禁止規定の効果や抜け穴を即座にシミュレーションできる利便性は極めて魅力的です。

これまで外包チームへの教育やサンプル検証に数週間を要していた規約改定が、GPT-4との対話によって短時間で洗練できるため、運用の即応性が大きく向上します。

業界全体で見れば、従来の人海戦術に頼ってきた審査代行ビジネスを、プロンプトの設計業務へと置き換える圧力が強まるはずです。

OpenAIのアプローチは、AIを完成された審判としてではなく、規約の粗を探す対話相手として位置づけた点が現実的で巧妙だと私たちは評価します。

一方で、GPT-4が理路整然と誤った判定の根拠を語り出した際に、運用担当者がその論理性に圧倒されて不当な検閲を見落とすリスクは依然として残されています。