EU、世界初の包括的AI規制「AI法」で政治合意：最大で世界売上の7%の罰金

欧州連合（EU）の欧州議会と加盟国理事会は人工知能を包括的に規制する世界初の法案「AI法（AI Act）」について暫定合意に達しました。

リスクの度合いに応じてAIシステムを分類し、最も深刻な違反には最大3500万ユーロまたは全世界年間売上高の7パーセントという巨額の罰金を科す仕組みです。

禁止される用途と厳格な例外

合意案では、市民の権利や民主主義を脅かすAIの利用が明確に禁止されました。

人種、政治的信条、宗教、性的指向といった機微情報に基づく生体分類システムや、インターネットや防犯カメラ映像から顔画像を無差別に収集してデータベースを構築する行為は違法となります。

職場や教育機関での感情認識、個人の行動や属性に基づくソーシャルスコアリング、人間の自由意志を回避して行動を操作するシステム、弱者の脆弱性を利用するAIも全面的に禁止されます。

警察などの法執行機関による公共の場でのリアルタイム遠隔生体認証は、事前かつ厳格な司法許可がある場合に限られます。誘拐や人身売買の被害者捜索、差し迫ったテロ脅威の防止、重大犯罪容疑者の特定といった限定的なケースのみが例外です。

銀行融資や保険審査、選挙結果への介入など「高リスク」に分類されたAIについては、基本的人権への影響評価が義務付けられ、利用者はAIによる決定に対して説明を求める権利を得ます。

汎用AIと基盤モデルへの規律

大規模言語モデルなどを指す「汎用AI（GPAI）」に対しても、明確なガードレールが設けられました。

すべての汎用AI開発者には、技術文書の作成、EU著作権法の遵守、学習データに関する詳細な要約の公開といった透明性の確保が義務付けられます。

さらに重大な影響力を持つ「システミックリスク」を伴うモデルには、モデル評価や敵対的テスト（レッドチーミング）の実施、リスク軽減策、重大インシデントの欧州委員会への報告、エネルギー効率の開示など、より厳しい基準が課されます。

新興企業への配慮として、加盟国が規制サンドボックスを設け、中小企業が市場投入前に低リスクで開発・検証できる環境も整備されます。

なぜ重要か

GDPR（一般データ保護規則）が世界のプライバシー基準になったように、EUはこのAI法で世界のルール形成を主導しようとしています。

一般ユーザーにとって、監視カメラ映像の無断収集や職場での感情監視から身を守る法的な盾ができる意義は小さくありません。融資などをAIに拒否された際、その理由を問いただす権利が制度化されたのも前進です。

一方で開発企業、特にフロンティアモデルを開発する企業にとっては、学習データの開示義務と最大7パーセントの罰金リスクが重い足枷となります。

リスク基準で義務を分けた点は合理的ですが、厳格すぎるコンプライアンス要件が欧州のAIスタートアップの競争力を削ぐ懸念は残ります。ルール作りで先行するあまり、実際の技術革新で米国などにさらに引き離されるジレンマを抱えているように見えます。