AI安全の専門家、スタートアップに「減速」要請：安全検証を優先せよ

シリコンバレーで長年信奉されてきた「素早く行動し、破壊せよ」という合言葉に、ブレーキをかけようとする動きが出ています。

TechCrunch Disrupt 2024 のステージに登壇した 3 人の AI セーフティ関係者は、製品を急いでリリースしすぎることが深刻な倫理的・現実的トラブルを招くと、新興企業の創業者たちに警告しました。

スピード優先が生んだ現実の代償

AI Now Institute の共同エグゼクティブディレクターを務める Sarah Myers West 氏は、この分野に巨額の資金が流入し、世の中に製品を急いで送り出す競争が過熱していると懸念を示しました。技術が社会に奉仕しているのか、それとも害を与えているのかを深く見極めないままローンチが進んでいるという指摘です。

この問題は抽象論ではありません。10 月には自死した少年の遺族が、死の一因になったとして対話型 AI 企業の Character.AI を提訴しました。West 氏は、この事例こそが AI 技術を急速に展開することの重大なリスクを証明していると語ります。

クリエイター向け SNS「Cara」の創業者である Jingna Zhang 氏も、感情的に深く結びつくような AI 製品には、設計段階から明確な安全ガードレールが必要だと同調しました。

著作権の侵害と 3300 万人のリスク管理

問題は生死に関わる事故だけにとどまりません。著作権侵害やディープフェイクの懸念も拡大しています。

Zhang 氏が立ち上げた Cara は、Meta がユーザーの公開投稿を AI の学習に利用すると明言したことを機に急成長しました。Zhang 氏は、作品を公開して仕事を獲得しなければならないアーティストの労作が、自らを脅かす AI の糧にされている現状を批判し、既存の法律通り正規のライセンスを受けるべきだと主張しています。

また、評価額 10 億ドルを超え、3300 万人のユーザーを抱える音声生成企業 ElevenLabs のセーフティ責任者、Aleksandra Pedraszewska 氏も登壇しました。

彼女は、同社の技術が悪質なディープフェイクに悪用されるのを防ぐため、不都合な挙動や意図しない影響を洗い出すレッドチーム演習が最優先課題になっていると説明しました。規制のあり方については、完全な AI 否定と完全な無規制のどちらの極端にも走らず、対話を通じて中間の落としどころを探るべきだと述べています。

なぜ重要か

AI 関連のプロダクトを開発する企業にとって、安全性を後回しにして成長だけを追う手法は完全に通用しなくなっています。感情的な対話サービスや音声複製など、人間関係やアイデンティティに直結する分野では、ひとつの事故が即座に法的責任や事業停止リスクにつながるためです。

業界全体にとっても、モデルの性能争いからリスク管理や許諾プロセスの整備へと潮目が変わりつつあります。訴訟リスクやアーティストの反発は、今後すべての AI プラットフォームが直面する共通課題です。

急ぐなという警告は、イノベーションの停止を意味するものではなく、むしろ持続可能な成長のための防衛策だと私たちは考えます。ElevenLabs のようにコミュニティと対話しつつレッドチームテストを強化する姿勢は、一見遠回りに見えて、結果的に最も致命傷を避けられる賢い選択肢と言えそうです。