Hugging Faceの2人体制チーム「H4」、Zephyrなどオープンモデルを開発
米TechCrunchはHugging Faceの2人組チーム「H4」が対話型AIのオープンソース化を推進していると報じた。Zephyr-7B-αの開発を手がけ、1000基超のA100 GPUを活用しつつ、アライメント手法やコードをコミュニティに無償公開している。
AI安全性
新しいニュースを見る
GitHub Advanced SecurityにAI機能：脆弱性の自動修正や流出パスワード検知
GitHubはGitHub Advanced Security向けに3つのAI機能プレビューを発表した。CodeQLによるJavaScriptとTypeScriptの警告に対しAIが修正コードを自動生成してPR内で即時反映できるほか、AIを活用して非定型の流出パスワード検知や正規表現の自動生成が行える。
米FTCが著作権局に異例の意見書提出：生成AIの無断学習に警告
米連邦取引委員会（FTC）が米著作権局に異例の意見書を提出しました。AI学習での無許諾データ利用や作家の模倣が「フェアユース」と主張されても、消費者保護法や独占禁止法違反になり得ると警告。一方、業界団体からは権限の逸脱だと批判の声が上がっています。
米俳優組合のスト交渉がAI巡り再び決裂、制作側の肖像権「永久保有」要求に反発
ハリウッド俳優組合（SAG-AFTRA）と制作会社連盟の交渉が再び決裂した。制作側が一部俳優のデジタルスキャン肖像を永久保有し、死後も遺族の同意なしに使える条項を求めたのに対し、組合側は使用ごとの事前同意と支払いを譲らず合意に至らなかった。
スカーレット・ヨハンソン、声を無断クローンしたAIアプリ開発元に法的措置
Varietyの報道によると、スカーレット・ヨハンソンがAIアプリ「Lisa AI」の開発元Convert Softwareに対し法的措置を講じている。同アプリの広告内で本人のAI生成音声が無断使用されており、免責表記はあるものの代理人弁護士は厳正に対処する方針を示した。
Instagram、性格や趣味を自由に設定できる「AIフレンド」を開発中か
アプリ研究者が公開したスクリーンショットから、Instagramがカスタマイズ可能な「AIフレンド」を開発中であることが判明した。年齢や性別、性格のトーン、興味のある分野を細かく指定して対話できる。Metaが有名人AIを展開したのに続き、よりオープンな日常会話の相手を狙う動きとみられる。
英ブレッチリー宣言が採択、米商務省もAI安全研究所の設立を発表
英ブレッチリー・パークで開催されたAI安全サミットで「ブレッチリー宣言」が発表され、フロンティアAIのリスクに対処するための国際協力に合意した。同時に米商務省はNIST内にAI安全研究所を設立し、英国などと政策調整を進めると発表した。
英コリンズ英語辞典、2023年の「今年の言葉」に「AI」を選出
英コリンズ英語辞典は2023年の「ワード・オブ・ザ・イヤー」に「AI」を選出したと発表した。使用頻度がこの1年で4倍に急増し、メールや配信サービスのように日常へ急速に定着したことが選出の決め手となった。
米連邦地裁、画像AI巡る著作権侵害訴訟でMidjourneyらへの訴えを一部棄却
米連邦地裁はアーティストらがStability AIやMidjourneyなどを訴えた集団訴訟で一部の請求を棄却した。「AIの全出力物が著作権侵害にあたる」との主張やMidjourneyに対する請求を退けた一方、モデル学習での無断利用を巡るStability AIへの直接侵害の審理継続を認めた。
MetaのAI研究トップが苦言、従来のオープンソース規約はLLMに合わない
MetaのAI研究部門を率いるジョエル・ピノー氏は、既存のオープンソースライセンスではAIモデルが抱える著作権や安全性のリスクに対応できないと指摘した。Llama 2の規約制限には「真のオープンソースではない」との批判もあるが、OSIも現行規格の限界を認め、AI向けの新たな定義策定を進めている。
米バイデン大統領、AI規制の大統領令に署名：安全性テスト報告を義務付け
米バイデン大統領が包括的なAI大統領令に署名した。国家安全保障に影響を与える強力な基盤モデルの開発企業に対し、開発時の政府通知とレッドチーム検証結果の提出を義務付けるほか、AIコンテンツの電子透かし基準策定も指示している。
Yan LeCun氏が警告：オープンソースAI規制は巨大企業の知識独占を招く
Yan LeCun氏が、終末論を口実にオープンソースAI研究の禁止を求める規制ロビー活動を批判した。同氏はAIが人類の知を担うためWikipediaのように開かれるべきだとし、規制でオープン化が阻まれれば少数の巨大企業がデジタル空間を独占すると警鐘を鳴らした。
Stability AI、英政府主催の「AI安全サミット」に参加へ
Stability AIは創業者兼CEOのエマード・モスターク氏らがブレッチリー・パークで開催される英AI安全サミットに参加すると発表した。オープンソース推進の立場から、大手テックによる独占を防ぎ、エコシステム全体を支援する安全策の確立を呼びかける。
マイクロソフト、英AIサミットを前に安全対策の進捗を報告
マイクロソフトは英AI安全サミットに先立ち、AIの安全性に関する取り組みの進捗を発表した。独自のAIレッドチームを強化してBing Image Creatorなどの検証を行ったほか、生成画像の自動識別技術を導入。さらに安全開発プロセスへの基準統合や研究助成も進めている。
Google、生成AI特化の脆弱性報奨金制度を開始
Googleは脆弱性報奨金プログラム（VRP）の対象を生成AI特有の攻撃シナリオに拡大したと発表しました。新たな報告ガイドラインを公開したほか、SLSAやSigstoreを活用したモデル署名プロトタイプも導入し、サプライチェーンの改ざん防止を図ります。AIのハッキングやバイアス検出に外部研究者の力を本格的に活用する狙いです。
英首相が世界初のAI安全研究所設立を発表、公開前検証と国際連携を提唱
Thursday、英国のスナク首相は世界初となる「AI安全研究所」の設立を発表した。モデル公開前に偏見や極端なリスクを検証する方針で、気候変動に関する国際枠組みを参考にした世界的な専門家パネルの設置や中国の関与も求めている。
OpenAI、最先端AIの破滅的リスクに対処する「Preparedness」チームを新設
OpenAIは最先端AIによる破滅的リスクを追跡・評価する新組織「Preparedness」の立ち上げを発表した。サイバーセキュリティや生物化学兵器、自律複製などの脅威を防ぐため、厳格な開発指針の策定や安全性検証コンテストを進める。
Google、画像の真偽検証ツールを提供開始 AI生成フラグや初出履歴を確認可能に
Googleは英語圏の全ユーザー向けに「About this image（この画像について）」機能を公開した。検索に初めてインデックスされた時期や他サイトでの文脈、AI生成かどうかのメタデータを確認できる。事実確認を行う記者向けに専用APIも提供される。
Grammarly新機能、ユーザー固有の文体を学習してテキストを自動リライト
Grammarlyは個人の文体を自動検出して学習する新機能を発表した。普段のタイピングから語調や癖を捉えて「音声プロファイル」を作成し、任意のテキストをその人の文風に書き直せる。年内にビジネス版ユーザー向けに提供予定だ。
OpenAIやGoogleら4社、AI安全基金に1000万ドル超を拠出
Anthropic、Google、Microsoft、OpenAIは「フロンティア・モデル・フォーラム」の初代事務局長にChris Meserole氏を任命し、1000万ドル超規模のAI安全基金を立ち上げたと発表した。独立した研究者によるレッドチーミング手法や評価ツールの開発を支援し、最先端AIの安全性基準の確立を目指す。