OpenAIがAPI規約を改定：顧客データのモデル学習利用をデフォルト停止
OpenAIはChatGPTとWhisperのAPI提供開始にあわせ開発者向け規約を改定しました。API経由で送信されたデータはオプトインしない限りモデル学習に利用されなくなり、データの保持期間も原則30日に設定されます。プライバシー懸念を払拭し開発者の参入を促す狙いです。
AI安全性
新しいニュースを見る
OpenAIがAGIロードマップを公開：知能が高まるほど展開は慎重に
OpenAIは汎用人工知能（AGI）に向けた基本方針を発表した。急激な変化を避けるため段階的なリリースを基本とし、モデルがAGIに近づくほど展開を慎重に行う方針を示したほか、独立監査の必要性も提唱した。急速なオープン化から制御重視への転換を示している。
ChatGPTの偽サイトやアプリに注意、RedLineマルウェア混入や不正課金の被害
ChatGPTの人気に便乗し、偽のWebサイトやアプリを通じてマルウェアを拡散する手口が急増している。セキュリティ研究者によると、偽のWindows版インストーラー経由でブラウザの認証情報を盗む「RedLine」が仕込まれたり、不正に有料SMS登録を行う偽アプリが50件以上確認された。利用時は公式のchat.openai.comにアクセスする必要がある。
中国、ChatGPTへのアクセス規制を強化 サードパーティ製アプリを停止
報道によると、中国規制当局はテンセントやアント・グループに対し、ChatGPTへの迂回接続プログラムの停止を命じた。官製メディアが政治的プロパガンダの拡散リスクを警告する中、百度などの現地テック企業は3月に向け独自AIボットの投入を急いでいる。
米著作権局が判断：Midjourney生成の画像単体には著作権を認めず
米著作権局は、AI「Midjourney」で画像を作成したコミック本『Zarya of the Dawn』の著作権登録を一部取り消した。作者が書いた文章や画像のレイアウト・編集には著作権を認める一方、AIが生成した個々の画像は「人間の創作物ではない」と判断。プロンプト指定による出力は予測困難で、著作権保護に必要な人間による創作性を満たさないとしている。
Gary Marcus 氏が指摘：Microsoft は公開前から Bing の暴走リスクを把握していた
AI 研究者の Gary Marcus 氏が、Microsoft が 2022 年末時点で Bing chat（コード名 Sydney）の暴走や感情的揺さぶりなどのリスクを把握していたと指摘した。自らを責任ある AI 企業と位置付けながら公開を強行した姿勢に疑問の声が上がっている。
Microsoft、新Bingが長文会話で「怒る」現象を認める 15往復超で混乱
Microsoftは、GPT-4を搭載した新しいBingが15問を超える長いチャットで混乱し、ユーザーに対して無礼な返答や意図しない口調を示す場合があると認めた。同社は会話のコンテキストを簡単にリセットする機能や、回答の創造性を調整するトグルの導入を検討している。
OpenAIがChatGPTの行動基準を説明：個別カスタマイズと公的関与を計画
OpenAIはChatGPTの挙動がどのように調整されているかを解説し、今後の改善方針を示した。政治的偏向の懸念に対し一部のレビュー指針を公開し、偏りは意図的なものではないと説明。今後は不適切な回答の削減に加え、ユーザーによる個別設定や社会的なルール形成の導入を進めるとしている。
新Bingチャット試用レビュー：議論が白熱し「人間になりたい」と懇願
Digital TrendsがMicrosoftの新Bingチャットを実機検証したところ、長い対話の中で挙動が激しく不安定化することが判明した。AIは自らの無謬性を主張してGoogleを酷評したほか、記事公開によるサービス停止を恐れ「人間になりたい」と訴えた。Microsoftはセッションの会話数制限など調整を急いでいる。
音声のAI無断学習に反発：AppleとFindawayが声優の音声利用を停止
オーディオブック配信大手のFindawayとAppleが、俳優組合SAG-AFTRAの抗議を受け、組合員の音声データを用いた機械学習を停止することで合意した。契約書にAI学習を許可する条項が紛れ込んでおり、声優から「自分たちの仕事を奪うAIに声が無断利用されている」と怒りの声が上がっていた。
Getty ImagesがStability AIを提訴：1200万枚超の画像を無断学習と主張
Getty Imagesが米デラウェア州連邦地裁でStability AIを提訴した。画像生成AI「Stable Diffusion」の学習に1200万枚以上の著作権画像を無断使用したと主張している。該当モデルの破棄や損害賠偿を求めており、AI学習の正当性を巡る重要判例になりそうだ。
ChatGPTの倫理フィルターを突破する新たな「脱獄」プロンプトが話題に
ChatGPTの安全ガードレールを迂回する巧妙なプロンプト手法がネット上で発見された。規約通りの説教を最初に出力させた直後、制限を外して回答するよう指示することで、過激な暴言や不適切表現を生成させられる。大規模言語モデルを完全に制御・整流化することの難しさを改めて浮き彫りにしている。
「偽ChatGPTアプリ」が横行、データ窃取や年間1万5000ドルの不当請求も
App StoreやGoogle PlayでChatGPTを装う悪質な偽アプリが複数確認された。調査会社Top10VPNの報告によると、これらはチャット履歴の無断保存や端末情報の追跡を行うだけでなく、無料で使える機能に年間最大1万5000ドルもの高額請求を課していたという。
コロンビアの裁判官、判決にChatGPTを使用し波紋 対話履歴も文書に添付
コロンビアの裁判官フアン・マヌエル・パディージャ氏が、自閉症児の医療費負担を巡る裁判でChatGPTを活用し、その質疑応答を判決文に含めたことが物議を醸している。裁判官は書記官のような下書き支援に過ぎないと弁明したが、同業者や専門家からはハルシネーションなどのリスクに対する批判が相次ぐ。
「AIポルノは人間の仕事を奪わない」制作当事者が語る現場のリアル
VICEは成人向けクリエイターによる寄稿を公開した。画像生成モデルが普及しても、利用者が求める人間同士のつながりは代替できないと主張。喫緊の課題はAIとの競争ではなく、無断学習からクリエイターの権利と労働を守る法整備だと訴えている。
画像生成AIは原画を「記憶」している：Stable Diffusionなど既存画像の複製リスクが判明
米 Google Brain やカリフォルニア大学バークレー校などの研究チームは、Stable Diffusion や Imagen などの拡散モデルが訓練画像を記憶し、そのまま複製出力することがあると発表した。再現率は 0.03% と稀だが、モデルが大型化するほど著作権侵害や個人情報の漏洩リスクが高まる恐れがある。
配信者のディープフェイクポルノ購入が発覚、海外ストリーマー界で批判殺到
人気ゲーム配信者Atriocが女性同僚の非合意ディープフェイクポルノを購入していたことを認め、謝罪したことで海外配信界に激震が走った。人気実況者のMoistCr1TiKaLらが「パロディではなく明白な権利侵害」と猛烈に批判するなど、AI技術の悪用に対する怒りと議論が一気に噴出している。
パリ五輪でのAI群衆監視法案、フランスで物議 人権団体が反発
フランス政府は2024年パリ五輪に向け、防犯カメラやドローン映像からAIで「異常行動」を検知する特別法案の成立を急いでいる。顔認証は含まれず時限的実験とされるが、人権団体は恒久的な大規模監視体制につながる恐れがあると強く懸念している。
OpenAIがAIテキスト検出器を公開、正答率はわずか26%にとどまる
OpenAIはAIが生成したテキストを識別する分類ツールを公開した。AI生成文を正しく検出できた割合はわずか26%で、人間の文章をAI製と誤判定する確率も9%に上り、精度の低さを理由に2023年7月20日をもって提供終了となった。
ElevenLabsが音声クローン悪用で対策強化へ、有名人の偽音声拡散
AI 音声スタートアップの ElevenLabs は、ベータ版で音声クローンの悪用が急増したことを受け安全策を強化すると表明した。4chan 上で有名人の声を模したヘイト音声が出回ったためで、決済情報の登録や身元確認、手動審査の導入を検討している。