Appleが米ホワイトハウスのAI安全性自主協定に署名

20億台のデバイスにApple Intelligenceを届ける直前、Appleはまずワシントンへの配慮を示しました。

米ホワイトハウスは7月26日、Appleが安全で信頼できる生成AIの開発に向けた自主的な安全対策コミットメントに署名したと発表しました。自前のペースを崩さないことで知られる同社も、主要テック企業が足並みを揃える規制の枠組みに加わることになりました。

この誓約には、2023年7月の時点でAmazon、Anthropic、Google、Meta、Microsoft、OpenAIなど15社がすでに署名していました。当時のAppleは生成AIに関する詳細を伏せていましたが、6月のWWDCでChatGPT連携を含む全面的なAI統合を明かしたことで、もはや無関係ではいられなくなりました。

署名企業に求められる3つの対策

今回の合意はあくまで自主的なものですが、求められる項目は具体的です。主にモデルのテスト、重みの保護、コンテンツ識別の3点に集約されます。

署名した企業は、モデルの一般公開前に外部ハッカーの視点で脆弱性を探るレッドチーミングを実施し、その安全対策の情報を公開することを義務付けられます。

また、未公開のモデルウェイトの機密保持も求められます。安全な環境下でのみ取り扱い、アクセスできる社内スタッフを最小限に絞ることに同意しました。

さらに、電子透かしなどの技術を開発し、ユーザーがAI生成コンテンツと本物のコンテンツを明確に見分けられるようにする仕組みの整備も含まれます。

ホワイトハウスによると、昨年10月の大統領令以降、連邦機関は200人以上のAI関連人材を採用し、80以上の研究チームに計算資源を提供したとのことです。さらに商務省は近く、オープンソースAIモデルの利益とリスクを分析した報告書を公表する予定です。

なぜ重要か

自主的な誓約に法的拘束力はなく、違反したからといって即座に罰則が科されるわけではありません。それでもAppleがこのタイミングで署名した意図は明白です。

秋には20億人のアクティブユーザーに向けてApple Intelligenceが順次展開されます。独占禁止法などで当局から厳しい視線を浴びているAppleにとって、AI分野で早々に協調姿勢を示しておくことは、将来の規制リスクを避けるための合理的な予防線と言えます。

一般ユーザーにとっては、手元のiPhoneに届くAI機能が一定水準の負荷テストを通過し、生成画像などに透かし処理が施されるという安心材料になります。今すぐ何か設定を変える必要はありません。

一方で私たちは、この合意がオープンソース陣営に与える影響を注視すべきだと考えています。モデルウェイトの管理厳格化が業界標準になれば、巨額のコンプライアンス費用を払えないスタートアップや研究コミュニティが排除され、結局は大手が築く堀を強固にする結果になりかねません。