米FTC、AI悪用の詐欺や誇大広告を一斉摘発　「ロボット弁護士」などに制裁

最先端のAIという看板を掲げても、誇大広告や詐欺が正当化されることはありません。

米連邦取引委員会（FTC）は9月25日、AIを悪用した欺瞞的・不公正な商取引を一斉に取り締まる法執行キャンペーン「Operation AI Comply」を発表しました。リナ・カーンFTC委員長は、現行法においてAIだからといって免責される特例は存在しないと強く警告しています。

世界初のロボット弁護士が直面した現実

今回の取り締まりで最も注目を集めたのが、自らを「世界初のロボット弁護士」と称していたDoNotPayです。同社はAIによって2000億ドル規模の法曹界を代替し、弁護士なしで訴訟を起こせると宣伝していました。

しかしFTCの調査によると、同社はチャットボットの能力が本物の弁護士と同等であるかを検証するテストすら実施しておらず、社内に弁護士を雇用してもいませんでした。DoNotPayは19万3000ドルの和解金の支払いに同意し、2021年から2023年の利用者に機能の限界を通知することを義務付けられました。

さらに、AIを活用した「不労所得」を謳うeコマース詐欺も摘発されました。Ascend EcomはAIがAmazonやTikTokなどの店舗運営を自動化して高額な月収をもたらすと謳い、少なくとも2500万ドルを騙し取ったとされています。また、AI文章生成ツールのRytrに対しては、架空のカスタマーレビューを大量生成する専用機能を提供していたとして、レビュー生成機能の提供差し止めが求められました。

なぜ重要か

生成AIブームに伴い、従来の情報商材やサクラレビューの手口が「AIによる自動化」という言葉で再パッケージ化されてきました。

私たちは、FTCが技術の看板に惑わされず、提供実態と成果の検証に焦点を当てて切り込んだ点を高く評価しています。弁護士や専門家を代替すると公言するなら、それを裏付ける客観的証拠が不可欠であるという基準が明確に示されました。

これはAIツールを開発するスタートアップにとっても重大な転換点となります。偽レビューの生成のように市場の透明性を損なう機能を提供すれば、ツール提供者自身が責任を問われるリスクがあります。また、誇大なマーケティング表現でユーザーを集める手法は、今後ますます厳しい法的リスクを伴うことになりそうです。