Grammarly、実在の作家や学者を無断模倣したAI添削機能を停止

自分の書いた文章に対して、突如として有名作家や著名な科学者からアドバイスが届く。しかもその本人は、自分の名前が無断で使われていることすら知らない。そんな冗談のような機能が、Grammarly で実際に稼働していました。

Grammarly の親会社である Superhuman は 3 月 11 日、批判の嵐と集団訴訟の動きを受け、AI が実在の人物になりきって文章を添削する「Expert Review」機能を停止したことを発表しました。

同意なしで実在の作家を AI 化した代償

この機能は昨年 8 月にリリースされたものでした。ユーザーが書いた内容に応じて、サードパーティの大規模言語モデルと公開情報を使い、著名な専門家やベストセラー作家、テック系ブロガーの視点をシミュレートして助言を与えるという仕組みです。

問題だったのは、対象となった人物が存命か故人かを問わず、本人の許可や事前の連絡が一切なかった点です。画面上には実在の人物の名前がそのまま表示されていました。

同社は、専門家の名前は参考情報に過ぎず Grammarly との提携や本人の承認を意味するものではない、という免責事項を添えていました。しかし、勝手に名前を使われた側の作家たちが納得するはずもありません。

批判が高まると、Superhuman は当初、名前を削除してほしい作家向けに「オプトアウト（除外申請）」の手続きを用意して場を収めようとしました。しかし、多忙な現役作家にわざわざ申請を強いる姿勢や、そもそも故人が申請できるはずもないという現実から、火に油を注ぐ結果となりました。結果として集団訴訟が提起され、同社 CEO の Shishir Mehrotra 氏は LinkedIn で機能の停止と再評価を公表せざるを得なくなりました。

なぜ重要か

私たちは、この一件が生成 AI 機能をプロダクトに組み込む際の「やってはいけない典型例」を示したと考えています。

ユーザーにとって、多様な視点からフィードバックを得る機能自体には確かな需要があります。文体を模倣させて壁打ち相手にする使い方はすでに一般的です。しかし、スタイルを真似ることと、実在の個人の氏名を明記して勝手にコメントを生成させることの間には、越えてはならない法的な一線があります。

業界全体にとっても、AI を巡る権利侵害の論点が「学習データの著作権」から「個人の氏名権やパブリシティ権の無断商用利用」へと拡大したことを意味します。

オプトアウトを用意し、小さな免責事項を添えておけば許されるという考え方は、あまりに安直でした。他人の名前や実績を都合よくパッケージ化して自社の機能に仕立てるやり方は、もはや通用しないと見るべきです。