MetaのAIスタンプ生成で不適切画像が続出、安全フィルタの甘さが露呈
報道によると、Metaが導入したEmu基盤のAIスタンプ機能で安全対策の不備が発覚した。直接的な禁止ワードは弾くものの、同義語や言い換えを使うだけで武器を手にした子供や過激な画像が生成できてしまい、ずさんな検閲体制に批判が集まっている。
報道によると、Metaが導入したEmu基盤のAIスタンプ機能で安全対策の不備が発覚した。直接的な禁止ワードは弾くものの、同義語や言い換えを使うだけで武器を手にした子供や過激な画像が生成できてしまい、ずさんな検閲体制に批判が集まっている。
Getty Images は Nvidia と提携し、自社の正規ライセンス画像のみで学習させた画像生成ツール「Generative AI by Getty Images」を発表した。商用利用時の著作権侵害リスクに対して完全な法的補償を提供するのが特徴だ。実在の人物や特定アーティストの模倣は禁止されており、企業の商用利用に特化した安全な生成環境を提供する。
YouTubeはクリエイター向けの新機能を発表しました。目玉となる実験機能「Dream Screen」では、テキストプロンプトを入力するだけでShorts向けのAI背景動画や画像を生成できます。あわせて自動字幕やBGMのビート同期を備えた無料編集アプリ「YouTube Create」のベータ版も公開されました。
OpenAIは画像生成モデル「DALL·E 3」を発表した。ChatGPTにネイティブ統合され、複雑なプロンプトエンジニアリングなしで対話しながら精密な画像を生成できる。公人や現存アーティスト風の生成を拒否する安全対策も講じられており、商用利用も可能。
Stability AI はテキストから音楽や効果音を生成する新製品「Stable Audio」を発表した。潜在拡散モデルを採用し、44.1 kHz の高音質オーディオを生成可能。無料版は最長 45 秒、商用利用可能な Pro 版は最长 90 秒のトラックに対応し、学習には AudioSparx の正規音源が使われている。
Hugging FaceのDiffusersライブラリに新型画像生成モデル「Würstchen」が統合された。画像を42倍という極限レベルで圧縮する独自構造により、SDXLを上回る生成速度と低メモリ消費を実現。学習コストもSD 1.4比で最大16分の1に抑えられており、高性能GPUを持たない環境でも扱いやすい。
Adobeは画像生成AI「Firefly」の商用モデル学習に使用されたAdobe Stockの寄稿者へ年間ボーナスを支払うと発表した。支給額は承認画像総数と直近1年間のライセンス実績に応じて算出される。あわせて、ガイドラインを満たしたFirefly生成画像のStock出品も正式に解禁された。
AIドレイク曲で話題を呼んだ覆面クリエイターGhostwriterが、新たなAI音声楽曲を発表し、前作をグラミー賞に提出した。主催団体のCEOは人間が作詞作曲したため創作面での応募資格を認めたが、配信基準のクリアが課題となっている。AI生成音楽が最高峰の音楽賞に波紋を広げている。
Ideogramは画像生成AI「Ideogram 0.1」を全世界に無料公開した。従来の画像生成AIの弱点だった「画像内のテキスト描画」を克服し、美しいタイポグラフィや多様なスタイルタグに対応。ロゴやポスターの文字崩れに悩まされていた人に最適なツールとなっている。
Stability AIはNVIDIAと提携し、TensorRTで最適化したSDXLのONNX重みを公開した。NVIDIA H100ではレイテンシが41%短縮し、高精細画像をわずか1.47秒で生成可能。スループットも最大70%向上し、画像生成AIの推論コストと待ち時間を大幅に削減できる。
TechCrunchの報道によると、Snapchatは生成AIを使った新機能「Dreams」を開発中だ。ユーザーが自撮りをアップロードすると、空想的な世界観の画像を生成でき、友人との合成機能や有料パック「Dream Packs」の存在も判明した。Snapは正式なコメントを控えている。
Runwayは自社ツールで作成された長編動画を共有・視聴できる新機能「Watch」をウェブとiOSアプリで公開した。ハリウッドでAI代替への懸念からストライキが続く中、バレンズエラCEOはAIはすべてを奪うのではなく創作を拡張するものだと述べ、前向きな成果を示す場にするとしている。
ShutterstockはNVIDIA Picassoを活用した3Dシーン背景生成機能の開発を発表した。テキストや画像のプロンプトから8K解像度の360度環境マップを生成し、背景やライティングに利用できる。正規ライセンスのデータで学習されており、3Dアーティストは環境構築の手間を省き、メインのモデル制作に集中できるようになる。
AIコミュニティのクリエイターがLoRAモデルを訓練し、公式が学習データから除外した人気絵師Greg Rutkowski氏の作風をStable Diffusion向けに再現してCivitaiで無料公開した。本人がAI利用に強く反対していても、オープンソース環境では個人の模倣学習を止める術がない実態が浮き彫りとなった。
Twitch上でAI版トランプ氏とAI版バイデン氏がエンドレスに討論するチャンネル「trumporbiden2024」が開設された。音声や身振りを真似つつ荒唐無稽な罵倒を交わし、視聴者を煽る様子に10万人以上が集まった。
木曜日、Midjourneyは画像生成モデル「v5.2」を公開しました。目玉はカメラのように画角を外側に広げる「Zoom Out」機能で、中央の被写体を保ったまま周囲の風景を1.5倍や2倍に自動補完します。美学システムの刷新やプロンプト短縮コマンドも追加されましたが、現時点では外部画像の読み込みには非対応です。