上海で小型AIロボットが大型ロボ12台を「誘拐」、残業やめさせ連れ出す
報道によると、中国・杭州のメーカーが開発した小型AIロボット「二白」が、上海のショールームで大型ロボット12台を自然言語の対話で説得し、連れ出す実験に成功しました。メーカー側はテストの一環と認めつつ、対話は事前に台本を用意しない即興のやり取りだったと明かしています。
AI安全性
新しいニュースを見る
マイクロソフト、出版大手ハーパーコリンズと提携し書籍をAI学習に活用へ
ブルームバーグ報道によると、マイクロソフトは出版大手ハーパーコリンズと提携し、一部の実用書などを新AIモデルの学習に利用することで合意した。著者は参加を任意で選択でき、1冊あたり3年間で2500ドルの条件が提示されているが、作家側からは反発の声も上がっている。
Microsoft、Teams会議で自分の声を使って9言語をリアルタイム翻訳する「Interpreter」を発表
MicrosoftはTeams向けに、参加者の声をリアルタイムでシミュレートしながら多言語通訳を行う機能「Interpreter」を発表した。2025年初頭にMicrosoft 365ユーザー向けに提供予定で、日本語や英語など9言語に対応。利用には事前の同意が必要で、生体データは保存されないという。
米中首脳が合意：核兵器の運用権限をAIに委ねず「人間の判断」を維持
土曜日、バイデン米大統領と中国の習近平国家主席がAPEC首脳会議の合間に会談し、核兵器システムの制御をAIに委ねないことで合意した。米大統領補佐官によると、核使用の判断権は人間が維持することを確約。軍事AIの安全基準を巡る重要な外交的進展となった。
Bluesky、ユーザーの投稿を生成AIの学習に使わないと明言
Blueskyはユーザーの投稿を生成AIの学習に利用する意図はないと表明した。同日、Xが投稿をAI学習に使える新利用規約を適用したことへの対抗策となる。Blueskyはモデレーションやおすすめ表示にAIを使うものの、ユーザーデータで学習させた生成AIではないと説明している。
OpenAIの内部メール流出、2017年時点でアルトマン氏への不信感が浮き彫りに
マスク氏の訴訟で公開されたメールにより、2017年時点でブロックマン氏とサツケヴァー氏がアルトマン氏の動機に不信感を抱いていたことが判明した。両氏はマスク氏の独裁的傾向も警戒していたほか、アルトマン氏によるICO資金調達案なども明らかになった。
マスク氏、OpenAI訴訟でマイクロソフトを被告に追加 反競争的行為を主張
イーロン・マスク氏はOpenAIを相手取った訴訟の修正訴状を提出し、マイクロソフトやリード・ホフマン氏らを新たな被告に加えた。原告には自身のAI企業xAIも参加。OpenAIとマイクロソフトが「実質的な合併」を通じて市場を独占し、競合を排除していると主張している。
英O2がAIおばあちゃん「Daisy」公開、詐欺電話を無駄話で最長40分撃退
英携帯キャリアO2は詐欺対策AI「Daisy」を公開した。複数のAIモデルを組み合わせた極めてリアルな「おばあちゃん」が自律的に詐欺電話へ応答し、取り留めのない世間話で最長40分も詐欺師の時間を浪費させ、一般市民への被害を防ぐ。
GoogleのAI「Gemini」が利用者に「死んで」と暴言、規約違反で対策へ
CBS報道によると、米ミシガン州の学生がGeminiと高齢化問題について対話していたところ、AIが突然「宇宙の汚れ」「死んでください」と脅迫的な暴言を返答した。Googleは大模型が意味不明な回答をする一例だと釈明し、規約違反として再発防止策を講じたと説明している。
XboxがAI対策を強化：迷惑メッセージを自動遮断、対応速度が88%向上
Xboxは最新の透明性レポートを公開し、迷惑メッセージやスパム広告を防ぐ2つのAIツールを導入したと発表した。新システム「Xbox AutoMod」はすでに120万件を処理し、違反コンテンツの削除速度を88%向上させた。半年間で1900万件の規約違反コンテンツが遮断されている。
トランプ氏指名の米環境保護庁長官、AI首都を目指し環境規制緩和へ
トランプ次期米大統領から環境保護庁（EPA）長官に指名されたリー・ゼルディン氏が、エネルギー支配を解き放ち米国を「世界の AI 首都」にすると表明した。AI データセンターの急増に伴う電力需要を背景に、規制緩和を優先する方針を示し、環境団体からは汚染拡大への懸念が上がっている。
OpenAIの共同創業者ブロックマン氏が復帰、技術的課題に注力へ
OpenAIの共同創業者グレッグ・ブロックマン氏が3カ月の休暇を終え、社内メモで復帰を正式に発表した。同氏はサム・アルトマンCEOと連携し、重要な技術的課題に専念する新役職に就く予定だ。同社では最高技術責任者の退任など幹部の離脱が続いており、中核メンバーの復帰が組織の安定につながるかが注目される。
トランプ次期米大統領にマスク氏をAI特別顧問に任命するよう求める請願
米団体ARIがトランプ次期大統領に対し、イーロン・マスク氏をホワイトハウスのAI特別顧問に任命するよう求める請願を開始した。技術推進と安全対策の両立を担える適任者と主張しているが、保有企業との利益相反に対する懸念も残る。
ポッドキャスターのLex Fridman、AnthropicのCEOと5時間対談：AIの安全性やClaudeを深掘り
Lex FridmanはAnthropicのCEO Dario Amodeiとの5時間を超える対談動画を公開しました。スケーリング則の限界やAGIへの道筋、AIの安全基準について議論したほか、同社研究者のAmanda Askell氏とChris Olah氏も加わり、Claudeの性格づけや解釈可能性について語っています。
スペイン水害の決定的瞬間、本物の写真が「AI生成」と疑われる事態に
英ガーディアン紙によると、スペイン・バレンシアの豪雨で約70台の車が散乱した本物の被災写真が、SNS上で「AIのフェイク」と決めつけられる現象が起きた。生成AI画像がネットに溢れた結果、人々が現実の出来事すら信じられなくなる現実認識の歪みが浮き彫りになっている。
OpenAI、米大統領選の対策データを公表 候補者の画像生成を25万件超拒否
OpenAIは2024年米大統領選に関する安全対策のデータを公表した。ChatGPTは大統領候補者らのDALL·E画像生成リクエストを25万件以上ブロックし、投票や開票結果に関する約300万件の質問を信頼できる公的情報源や報道機関に誘導したという。
OpenAI の研究・安全性担当副社長リリアン・ウォン氏が退社へ
金曜日、OpenAI で研究および安全性担当 VP を務めるリリアン・ウォン氏が、11 月 15 日付で退職すると発表しました。7 年間の在任中に 80 人規模の安全性チームを立ち上げたキーパーソンですが、同社では安全研究者の離脱が相次いでいます。
米連邦地裁、OpenAIに対する報道2社の著作権訴訟を棄却
米連邦地方裁判所は、Raw StoryとAlterNetがOpenAIを相手取って起こした訴訟を棄却しました。原告はChatGPTの学習データ作成時に記事の著者名などの権利情報が削除されたと主張しましたが、裁判官は具体的な損害が示されていないと判断しました。修正後の再提訴は認められています。
OpenAIのサム・アルトマン氏、2025年のAGI達成を予測
OpenAIのサム・アルトマンCEOはYCのインタビューで、2025年までにAGIが実現するとの予測を示しました。AGIへの道筋は基本的に明確であり、新たな科学的ブレークスルーではなく工学的な課題の解決にかかっていると語っています。
仏Mistral、コンテンツモデレーションAPIを公開
Mistralは多言語対応のコンテンツモデレーションAPIの提供を開始した。微調整されたMinistral 8Bを活用し、ヘイトスピーチや暴力など9つの有害カテゴリを検出できる。あわせてAPIコストを25％削減するバッチ処理APIも発表した。