OpenAIのアルトマンCEO、AIの危険性に「少し恐怖」　規制と社会の関与を訴える

GPT-4の発表直後、OpenAIのCEOであるサム・アルトマンとCTOのミラ・ムラティが米ABC Newsの独占インタビューに応じました。アルトマンは自らが開発した技術について「人類がこれまでに開発した中で最も偉大な技術になり得る」と語る一方で、「私たち自身が少し恐れていることを、人々はむしろ喜ぶべきだ」と明かし、その潜在的な危険性について率直に語りました。

ChatGPTは公開からわずか数か月で月間アクティブユーザー数1億人を突破し、UBSの調査によればTikTokやInstagramを大きく上回る史上最速のペースで普及しています。しかし開発トップの視線は、熱狂の先にあるリスクに向けられています。

事実の保管庫ではなく、推論エンジン

新たに投入されたGPT-4は、米国の統一司法試験で上位10パーセントに入るスコアを叩き出し、SATの数学テストでも満点近い成績を収めました。大半のプログラミング言語を自在に書くことも可能です。画像入力への対応も進められており、冷蔵庫の中身の説明やミームの解説などが実証されていますが、現時点では視覚障害者支援などの限定的なベータテストにとどまっています。

ムラティは、GPT-3.5からGPT-4への最大の進化は記憶力ではなく「より優れた推論能力の獲得」にあると説明しました。次の単語を予測する訓練の過程で、言語そのものの理解が深まっているといいます。

ただしアルトマンが最も注意を促しているのが「ハルシネーション（幻覚）」の問題です。モデルは事実でないことをあたかも真実のように自信満々に語ります。アルトマンは、このツールを「事実のデータベース」ではなく「推論のエンジン」として捉えるべきだと強調しました。

恐れているのは機械ではなく、人間

SF映画のようにAIが意思を持って世界征服を企むといったシナリオについて、アルトマンは現実的な脅威として見ていません。AIは人間が入力を与えて初めて動くツールであり、人間の制御下にあるからです。

アルトマンが本当に危惧しているのは、このツールを操る生身の人間です。具体的には、大規模な偽情報の拡散や、高度なコード生成能力を悪用したサイバー攻撃への転用を挙げています。OpenAIが設けているような安全制限を導入しない開発者や国家が現れた場合、社会がそれに対処するための猶予は非常に限られていると警告しました。

現在アルトマンは政府高官と定期的に連絡を取り合っており、規制当局と社会が普及のプロセスに深く関与することを求めています。

なぜ重要か

私たちは、この発言が単なる安全性の啓蒙ではなく、今後のプラットフォーム競争を見据えたポジショニングだと考えます。開発元自らが規制の必要性を強く訴えることで、未対策のオープンソースモデルや他国勢に対するルール作りの主導権を握る狙いが透けて見えます。

現場のユーザーにとって重要なのは、このツールに対する期待値の調整です。GPT-4を検索エンジンや百科事典のように過信すると、巧妙な嘘を見抜けなくなります。現時点で試す価値は十分にありますが、あくまで文章の構成やコードの下書きを担わせる「思考の補助具」として割り切り、事実確認の手間を惜しまない姿勢が欠かせません。

真のリスクは暴走するAIではなく、強力な推論能力が悪意ある攻撃者の武器になる点にあります。安全制限を課す企業とそうでないプレイヤーの格差が広がる中、社会がどこまで実効性のあるルールを敷けるかが問われています。