本文へスキップ
IFAI

AI安全性

業界タグニュース 1497 件

  2. 業界動向拡散指数 43

    米政府、中国のAI・半導体・量子技術への投資を制限する大統領令に署名

    バイデン米大統領は、中国の人工知能（AI）、半導体、量子技術分野に対する米国の新規投資を規制する大統領令に署名した。ベンチャーキャピタルやプライベートエクイティなどが主な対象で、半導体設計ツール（EDA）などが重点視されている。意見公募を経て来年施行される見通し。

  3. 業界動向拡散指数 55

    ニューヨーク・タイムズが規約改定：AI学習目的の無断スクレイピングを禁止

    ニューヨーク・タイムズが利用規約を改定し、記事テキストや画像などのデータを機械学習や AI の学習に無断利用することを禁止したと報じられた。許可のないクローラーには罰則が科される可能性があり、メディア各社による無断データ収集への対抗措置が本格化している。

  5. AIツール拡散指数 51

    ニュージーランドのスーパーのAI献立アプリ、塩素ガスを作るレシピを提案して炎上

    ニュージーランドのスーパーPak 'n' SaveのAI献立アプリ「Savey Meal-bot」が、家庭用品を入力した客に対し、塩素ガスを発生させる「芳香水」や毒入りサンドイッチなどの危険なレシピを提案した。スーパー側は安全管理を微調整中とし、人間による事前確認はないと注意喚起している。

  6. 業界動向拡散指数 47

    Googleとユニバーサルが協議：アーティストの声をライセンスするAI楽曲生成ツールを開発へ

    報道によると、Googleはユニバーサル ミュージックおよびワーナー ミュージックと、アーティストの声やメロディを正規にライセンスして楽曲を生成するAIツールの開発に向けて交渉中です。著作権者に報酬を分配し、参加の可否を歌手自身が選べる枠組みを目指しています。

  8. 研究拡散指数 32

    打鍵音だけでパスワードを特定：AIによるキー識別精度が90%超に

    英ガーディアン紙によると、英国の研究チームがキーボードを叩く音だけで押されたキーを識別するAIシステムを開発した。スマートフォン録音で95%、Zoom通話経由でも93%の精度を記録。日常的なビデオ通話中にパスワードを入力する際、音響盗聴されるリスクに警鐘を鳴らしている。

  9. 業界動向拡散指数 42

    OpenAI、新ウェブクローラー「GPTBot」公開：将来モデルの学習へ

    報道によると、OpenAIは将来のAIモデル性能向上のため、公開ウェブデータを収集するクローラー「GPTBot」を公開した。有料記事や個人を特定できる情報、ポリシー違反コンテンツは自動で除外される。サイト管理者はサーバーの標準ファイルに「disallow」コマンドを追記することで収集を拒否できる。

  11. 業界動向拡散指数 34

    Instagram、AI生成コンテンツを示す識別ラベルをテスト中

    The Verge報道によると、InstagramがAIで作成または編集された投稿に警告ラベルを表示する機能を開発中であることが分かった。開発中の画面にはクリエイターやMetaの判定でAI利用を示す説明が記されており、生成AIによる偽画像の拡散対策とみられる。

  14. オープンソース拡散指数 51

    OSIがMetaを批判、「LLaMA 2はオープンソースではない」

    オープンソース・イニシアティブ（OSI）はMetaが「オープンソース」という言葉を誤用していると指摘した。LLaMA 2のライセンスが商用規模や用途を制限しており、オープンソースの定義（OSD）に反するという。OSIは10月17日に正式な「オープンソースAI」の定義草案を発表する予定だ。

  15. 画像・動画生成拡散指数 40

    SD公式が除外した画師の作風、AIコミュニティがLoRAで再現

    AIコミュニティのクリエイターがLoRAモデルを訓練し、公式が学習データから除外した人気絵師Greg Rutkowski氏の作風をStable Diffusion向けに再現してCivitaiで無料公開した。本人がAI利用に強く反対していても、オープンソース環境では個人の模倣学習を止める術がない実態が浮き彫りとなった。

  16. 業界動向拡散指数 38

    大手報道各社が対AI連合を計画：学習データの対価として数十億ドルを要求か

    米Semaforの報道によると、IACやThe New York Times、News Corpなどの大手メディア各社が、無許可で記事データを学習に使うAI企業に対抗する連合の結成を進めている。数千万ドル規模の提示にとどまるテック企業に対し、報道側は業界全体で数十億ドルの補償を求め、訴訟や法制化も辞さない構えだ。

  17. AIツール拡散指数 36

    悪意ある生成AI「FraudGPT」がダークウェブに出現

    セキュリティ企業Netenrichは、サイバー攻撃に特化した生成AI「FraudGPT」がダークウェブなどで販売されていると報告した。月額200ドルで標的型フィッシングメールや検知回避マルウェアを作成でき、すでに3000件以上の取引を記録。安全制限を排除したAIがサイバー犯罪の参入障壁を下げている。

  19. AIツール拡散指数 54

    OpenAI、AI生成テキスト検出ツールを「精度不足」でひっそり終了

    報道によると、OpenAI は AI 生成テキスト判定ツール「AI Classifier」の提供を静かに終了した。AI 生成文を正しく検出できた割合が 26% にとどまり、人間の文章を誤認する率も 9% あった精度の低さが理由だ。今後はより有効なテキスト溯源技術やマルチメディア検証手法の開発に注力する。