OpenAI、AI悪用の世論工作ネットワークを阻止 ロシアや中国など関与
OpenAIは同社の大規模言語モデルを悪用して世論操作を試みた5件の秘密工作ネットワークのアカウントを停止したと発表した。ロシア、中国、イラン、イスラエル関連の組織が多言語の投稿生成やボット開発に利用していたが、実際の一般ユーザーへの拡散効果はほとんど得られていなかったという。
AI安全性
新しいニュースを見る
マスク氏とルカン氏がXで舌戦：AIの研究姿勢と過大宣伝を巡り対立
MetaのチーフAIサイエンティストであるヤン・ルカン氏とイーロン・マスク氏がX上で激しい口論を展開した。ルカン氏がマスク氏の過剰な宣伝姿勢を批判したのに対し、マスク氏はルカン氏の近年の研究成果に疑問を投げかけた。学術界のオープン研究と企業主導の商業化という二つの立場の衝突が浮き彫りになっている。
OpenAI旧取締役が暴露：ChatGPTの公開はTwitterを見て初めて知った
米Ars Technicaによると、OpenAI元取締役のヘレン・トナー氏がポッドキャストで、2022年11月のChatGPT公開を事前に知らされずTwitterで知ったと明かしました。サム・アルトマンCEOが自社ファンドの所有権を隠し、安全性プロセスでも虚偽の情報を伝えていたことが昨年の解任騒動の発端だったと語っています。
Anthropic、元OpenAIの安全研究責任者ヤン・ライケ氏を採用
OpenAIを辞任し同社の安全姿勢を批判していたヤン・ライケ氏が、競合Anthropicの新「スーパーアライメント」チーム責任者に就任した。スケーラブルな監視や自動化アライメント研究に注力する予定で、OpenAI側のチーム解散を受けてAnthropicの安全重視姿勢がより際立つ形となった。
OpenAI、取締役会に安全保障委員会を新設 次世代フロンティアモデルの学習開始も公表
OpenAI は全プロジェクトの安全基準を監督する「安全保障委員会」の設立を発表した。サム・アルトマン CEO らが参加し、今後 90 日間で安全プロセスの評価を行い勧告をまとめる。同社はあわせて、次世代フロンティアモデルのトレーニングを開始したことも明らかにした。
Character.ai、MetaやxAIとモデル共同開発の提携を協議中か
報道によると、対話型 AI を手がける Character.ai が、モデルの事前学習や研究開発を巡り Meta および xAI と提携協議を進めている。買収ではなく共同研究に焦点を当てており、現時点で合意には至っていない。巨大テック各社は規制の警戒を避け、提携を通じた技術獲得を進めている。
OpenAI、物議の退職合意書を撤回：株式と引き換えの批判禁止を廃止
OpenAI は退職者に対し批判禁止条項への署名と引き換えに既得株式を維持させる従来の取り決めを撤回する社内メモを送付した。未署名でも株式は没収されず、既存の批判禁止義務も免除される。同社は「価値観を反映していなかった」と謝罪した。
GoogleのAI検索が珍回答、「ピザのチーズには接着剤」と助言
報道によると、Googleの新検索機能「AI Overviews」が珍回答を連発して話題を呼んでいます。「ピザからチーズが落ちる」という質問に対し、ソースに無毒の接着剤を混ぜるよう提案。11年前のRedditの冗談コメントを引用したとみられます。Googleは極めて稀なケースだと釈明しています。
Meta、AI戦略の諮問グループを新設 StripeやShopifyのCEOが参画
Meta が AI および製品開発の助言を得るため、外部有識者による諮問グループを新設した。Stripe のパトリック・コリソン CEO や Shopify のトビ・リュトケ CEO、元 GitHub のナット・フリードマン氏が無報酬で参加し、取締役会とは別に経営陣へ助言を行う。
ソウルAIサミット、日英米韓など10カ国とEUが安全研究網で合意 主要16社も誓約
ソウルで開催されたAI安全サミットにて、10カ国とEUが国際的な安全研究ネットワークの構築に合意した。あわせてOpenAIやGoogle、中国の智譜AIなど主要16社が、リスクを許容値以下に抑えられない場合はモデルの開発や展開を行わないとする安全誓約に署名した。
マイクロソフトのCopilot+「Recall」機能に英当局が調査着手、専門家はプライバシーリスクを懸念
英データ保護機関ICOは、マイクロソフトのCopilot+ PC新機能「Recall」について調査を開始したと明かした。同機能は数秒ごとに画面を自動撮影・保存し後から検索できるが、パスワード等の除外機能がなく専門家がリスクを指摘。マイクロソフト側はデータは端末内にのみ保存されると説明している。
OpenAI、ChatGPTの音声「Sky」を一時停止 スカーレット・ヨハンソン氏が抗議
OpenAI は ChatGPT の音声「Sky」の提供を停止した。俳優のスカーレット・ヨハンソン氏が、事前にオファーを拒否したにもかかわらず自分と酷似した音声が無断で使用されたとして抗議声明を発表し、法的措置を取ったことを受けたもの。OpenAI は別の俳優の自然な声であり模倣ではないと反論している。
マイクロソフトが「Recall」発表：PCに写真のような記憶力を与える新検索
Build 2024にて、マイクロソフトはCopilot+ PC向けの新機能「Recall」を発表した。端末上で動作する40以上のマルチモーダル小型言語モデルを活用し、閲覧したWebページや資料、会議内容を自然言語で曖昧検索できる。処理はすべてローカルで完結し、6月18日より提供開始予定。
OpenAIがChatGPT音声の選考経緯を公表、酷似騒動の「Sky」を一時停止
OpenAIはChatGPTの音声選考プロセスを公表し、女優スカーレット・ヨハンソン氏の声に酷似していると物議を醸した「Sky」の提供を一時停止した。同社はプロ声優による自然な声であり模倣を否定したが、ヨハンソン氏に打診を断られた経緯も認め、騒動への配慮から停止に踏み切った。
Slack、ユーザーデータをAI学習にデフォルト利用で批判殺到 拒否は要メール
Slackがユーザーデータをグローバルモデルの学習にデフォルトで活用し、拒否するにはメール連絡が必要である仕様が発覚し炎上している。同社は絵文字推薦などに限られ「Slack AI」のLLM学習には利用していないと弁明したが、不透明な規約への不満は収まっていない。
ソニー・ミュージック、AI企業700社以上に警告：無断での楽曲学習を禁止
米Sony Music Groupは700社以上の生成AI開発企業や配信プラットフォームに対し、許諾なしに自社の楽曲、歌詞、メタデータなどをAIの学習に利用することを禁止する警告書を送付した。無断利用の有無の確認や、使用した詳細データの開示を求めている。
OpenAIの安全性チームに動揺：Ilya氏とLeike氏が相次ぎ退社
Gizmodo報道によると、OpenAIの「超アライメント」チームを率いていたIlya Sutskever氏とJan Leike氏が辞任しました。ほかにも安全部門から複数の研究者が離脱しています。経営陣への復帰支持書に署名していなかったメンバーが多く、同社が安全性を軽視して開発を加速させるのではないかと懸念されています。
声優陣がAI音声企業LOVOを集団提訴、「研究用」と偽り商用販売か
声優のポール・スカイ・ラーマン氏らがAI音声企業LOVOを相手取り米連邦地裁に集団訴訟を起こした。同社が「学術研究用」と偽って外注サイトで音声を収録させ、実際には有料AIモデルとして無断販売していたと主張している。AI学習による音声盗用を巡る初の大型訴訟となる。
OpenAI共同創設者のイリヤ・サツケヴァー氏が退任 後任にヤクブ・パチョッキ氏
OpenAIの共同創設者兼チーフサイエンティストのイリヤ・サツケヴァー氏が退任を発表した。後任には研究ディレクターのヤクブ・パチョッキ氏が就任する。昨年11月の解任劇以降は事実上業務から離れており、スーパーアライメント責任者のヤン・ライケ氏も辞任。サツケヴァー氏は新たな個人プロジェクトに移る意向を示している。
シスコ、AIネイティブ基盤「Hypershield」でサイバー防衛を刷新
CiscoはRSA ConferenceにてAIネイティブな防衛基盤「Hypershield」の詳細を明かした。AIやハードウェアアクセラレーション、Extended Berkeley Packet Filterを活用してカーネルレベルの可視性を確保。パッチ適用に45日かかる脆弱性でも、9〜15分で自律的に攻撃拡散を防ぐ。