OpenAIが「Red Teaming Network」設立、外部専門家とAI安全性を継続検証へ
OpenAIは外部専門家と連携してAIモデルの潜在リスクを洗い出す「Red Teaming Network」の公募を開始した。参加者には守秘義務のもと報酬が支払われ、年間5〜10時間程度の関与も可能。従来のモデル公開前に行う単発テストから、多様な視点を取り入れた常態的な安全評価へと拡大する狙いがある。
OpenAIは外部専門家と連携してAIモデルの潜在リスクを洗い出す「Red Teaming Network」の公募を開始した。参加者には守秘義務のもと報酬が支払われ、年間5〜10時間程度の関与も可能。従来のモデル公開前に行う単発テストから、多様な視点を取り入れた常態的な安全評価へと拡大する狙いがある。
米MicrosoftはAIデザインツール「Designer」を無料版Teamsに導入し、Windows 11向けにプレビュー提供を開始した。DALL-E 2を活用し、テキスト指示からポスターやプレゼン資料用画像を素早く作成できる。ビジネスチャット上で軽快なデザイン作成が可能になる。
TechCrunchはOpenAIやStability AIなどを相手取った著作権訴訟の広がりを報じた。争点はWeb上の著作物を無断学習することが「フェアユース」に当たるか否か。専門家は訴訟の波は始まったばかりで、企業のAI活用リスクが高まっていると警告している。
Shutterstockは自社のCreative Flowプラットフォームで、OpenAIのDALL-E 2を活用したテキスト画像生成機能の提供を開始しました。生成された画像はそのまま商用ライセンスを取得可能で、学習データを提供したクリエイターへの還元も明言しています。
PCMagはTidioによる画像生成AIのバイアス検証結果を報じました。Stable Diffusionで「CEO」を出力させると中年男性ばかりが並び、「感情的」という単語を加えて初めて女性が生成されるなど、学習データに由来する深刻なジェンダー偏見が確認されました。
OpenAIの研究チームが、ChatGPTなどの生成テキストに人知れず電子透かしを埋め込む技術のプロトタイプを開発した。暗号関数でトークン選択を調整する仕組みで、数百トークン(約1段落)あれば判定可能。語順の入れ替えや一部削除にも耐性があるという。
元Metaのエンジニアが短尺動画の自動生成ツール「QuickVid」を公開した。単語を1つ入力するだけで、GPT-3による台本作成、DALL-E 2の画像生成、Googleの音声合成、フリー素材動画を自動で組み合わせて完成させる。コンテンツ制作の手間を劇的に減らす一方、粗製乱造への懸念も出ている。
画像生成AIの中核技術である拡散モデルの歩みと仕組みが解説された。熱力学に着想を得たこの技術は、ノイズから元のデータを復元する逆過程を学習し、OpenAIのCLIPと組み合わせることで精度の高い生成を可能にした。現在では画像にとどまらず、音楽生成やタンパク質設計など医療分野へも応用が広がっている。
プレゼンテーション制作ツール「Tome」が GPT-3 と DALL-E 2 を統合した AI 生成機能を発表した。テキスト枠に発表テーマを入力するだけで、構成案や本文、AI 生成画像を含んだスライド下書きを即座に作成できる。現在はベータ版として無料で試すことができ、構想段階の負担を大幅に減らせる。