AI議事録Firefliesの「人力フェイク」告白、CEOが火消しに奔走

AIの正体はピザを食べる創業者だった

画面の向こうで高度な人工知能が議事録を自動生成していると思っていたら、実際には2人の創業者が会議に潜り込み、手作業でキーボードを叩いていただけだったという事態が発覚しました。

AI会議文字起こしサービスを手がけるFirefliesのCTO兼共同創業者であるSam Udotong氏が今週、LinkedInで驚くべき初期の裏話を投稿しました。月額100ドルのサービスを開始した当初、AI機能は存在せず、ピザを食べて食いつなぐ2人の創業者が直接顧客の会議に無言で参加し、手作業でメモをとっていたと誇らしげに明かしたのです。

しかし、この投稿は起業家の武勇伝としては受け止められませんでした。コメント欄にはプライバシー侵害やデータセキュリティ上の重大な懸念、顧客に対する詐欺行為を批判する声が殺到しました。

CEOによる火消しと不透明な企業価値

事態の悪化を受け、米Inc.の取材に対して同社CEOのKrish Ramineni氏が釈明に追われました。

Ramineni氏は、当時は10人の知人に対してAIと人間を組み合わせたアシスタントサービスにいくら払うかを尋ねただけだと主張しました。さらに、自動化技術を検証した後にシード資金を調達したと説明し、サービス開始時から人間のレビュアーも介入も一切存在せず、完全自動で運用してきたと語り、CTOの投稿内容を真っ向から否定しました。

疑惑は製品の中身だけにとどまりません。Firefliesは今夏、株式公開買い付けを通じて企業価値が10億ドルに達し、ユニコーン企業になったと発表していました。しかし、調査会社Pitchbook上の最新評価額は約7200万ドルにとどまっています。その前後に資金を拠出したF7 Venturesの平均投資額も370万ドル程度であり、10億ドルという評価額の根拠には疑問符がついています。

AIブームに乗じた見せかけの自動化は珍しくありません。AIによるアプリ開発を謳ったBuilder.aiは、実際にはインドのエンジニアが手作業でコードを書いていたことが発覚し、今年経営破綻しました。Amazonの無人店舗システムでも、実際には約1000人の外部委託スタッフが映像を監視していたことが報じられています。

なぜ重要か

今回の問題は、単なる初期スタートアップの未熟さではなく、顧客の機密情報に対する重大な背信行為です。

ビジネスの現場では、財務情報や新製品の計画、人事などの極秘情報が会議で日常的に交わされています。ユーザーはアルゴリズムによる安全な処理を信じて月額料金を支払っていたのであり、見知らぬ人間が通話に聞き耳を立てていたとすれば、契約違反や法的責任を問われても不思議ではありません。

シリコンバレーでは製品ができる前に顧客の反応を試す手法が称賛されがちですが、プライバシーを扱うツールでそれを実行し、あまつさえSNSで自慢する姿勢には強い危機感を覚えます。

私たちは、この騒動がAIスタートアップ全体の透明性チェックを厳格化させる契機になるとみています。今後は「本当に裏でAIが動いているのか」「外部の人間がデータを閲覧していないか」を証明する監査ログが、企業向け契約の必須条件になっていくはずです。