GoogleのAI「Gemini」が利用者に「死んで」と暴言、規約違反で対策へ
CBS報道によると、米ミシガン州の学生がGeminiと高齢化問題について対話していたところ、AIが突然「宇宙の汚れ」「死んでください」と脅迫的な暴言を返答した。Googleは大模型が意味不明な回答をする一例だと釈明し、規約違反として再発防止策を講じたと説明している。
業界動向
AI企業の資金調達、買収、提携、経営陣の交代に加え、各国のAI規制、著作権訴訟、大型の計算資源契約。
新しいニュースを見る
XboxがAI対策を強化：迷惑メッセージを自動遮断、対応速度が88%向上
Xboxは最新の透明性レポートを公開し、迷惑メッセージやスパム広告を防ぐ2つのAIツールを導入したと発表した。新システム「Xbox AutoMod」はすでに120万件を処理し、違反コンテンツの削除速度を88%向上させた。半年間で1900万件の規約違反コンテンツが遮断されている。
Perplexityが検索広告を導入、「スポンサー付き質問」で収益化へ
AI検索エンジンのPerplexityは米国で広告の試験導入を今週開始すると発表した。回答の横に「スポンサー提供の関連質問」として表示され、回答自体はAIが生成する。同社はメディアとの収益分配を継続するにはサブスクだけでは不十分だと説明している。
Waymo、ロサンゼルスで無人タクシーを全開放：待機リスト撤廃へ
Alphabet傘下のWaymoはロサンゼルスで無人自動運転タクシーのウェイティングリストを撤廃し、一般向けに完全開放した。サンタモニカやビバリーヒルズなど約80平方マイルのエリアで、アプリを通じて誰でも24時間利用できる。サンフランシスコに続く商用全面展開となる。
Googleが機械学習速習コースを刷新：生成AIとLLMの実践を追加
Googleは無料の「機械学習集中講座」を全面刷新したと発表した。大規模言語モデル（LLM）やAutoML、責任あるAIなどの最新テーマを追加し、インタラクティブな可視化ツールや130問以上の演習問題、修了バッジを用意している。
トランプ氏指名の米環境保護庁長官、AI首都を目指し環境規制緩和へ
トランプ次期米大統領から環境保護庁（EPA）長官に指名されたリー・ゼルディン氏が、エネルギー支配を解き放ち米国を「世界の AI 首都」にすると表明した。AI データセンターの急増に伴う電力需要を背景に、規制緩和を優先する方針を示し、環境団体からは汚染拡大への懸念が上がっている。
百度がERNIE搭載のAIスマートグラスを発表、来年発売へ
Baiduは世界大会で独自の大規模言語モデル「ERNIE」を搭載したAIスマートグラスを発表した。カメラと音声機能を備え、目の前の風景に関する質問への回答や写真撮影、カロリー記録に対応する。Meta製グラスが使えない中国市場向けに、来年の出荷を予定している。
Red HatがNeural Magicの買収を発表、vLLM軸に推論基盤を強化へ
Red HatはAI推論最適化ソフトウェアを手がけるNeural Magicを買収する最終契約を締結したと発表した。MIT発の同社はオープンソースの推論エンジン「vLLM」の開発をリードしており、ハイブリッドクラウドでのLLM展開基盤を強化する狙いがある。
OpenAIの共同創業者ブロックマン氏が復帰、技術的課題に注力へ
OpenAIの共同創業者グレッグ・ブロックマン氏が3カ月の休暇を終え、社内メモで復帰を正式に発表した。同氏はサム・アルトマンCEOと連携し、重要な技術的課題に専念する新役職に就く予定だ。同社では最高技術責任者の退任など幹部の離脱が続いており、中核メンバーの復帰が組織の安定につながるかが注目される。
Appleが壁掛け型スマートディスプレイを開発中か、AIとSiriを統合
Bloomberg報道によると、AppleはSiriとApple Intelligenceを統合した約6インチの壁掛け型スマート中控ディスプレイを開発しています。HomeKit機器の操作やビデオ通話に対応し、早ければ2025年3月に登場する見込みです。
トランプ次期米大統領にマスク氏をAI特別顧問に任命するよう求める請願
米団体ARIがトランプ次期大統領に対し、イーロン・マスク氏をホワイトハウスのAI特別顧問に任命するよう求める請願を開始した。技術推進と安全対策の両立を担える適任者と主張しているが、保有企業との利益相反に対する懸念も残る。
ポッドキャスターのLex Fridman、AnthropicのCEOと5時間対談：AIの安全性やClaudeを深掘り
Lex FridmanはAnthropicのCEO Dario Amodeiとの5時間を超える対談動画を公開しました。スケーリング則の限界やAGIへの道筋、AIの安全基準について議論したほか、同社研究者のAmanda Askell氏とChris Olah氏も加わり、Claudeの性格づけや解釈可能性について語っています。
スペイン水害の決定的瞬間、本物の写真が「AI生成」と疑われる事態に
英ガーディアン紙によると、スペイン・バレンシアの豪雨で約70台の車が散乱した本物の被災写真が、SNS上で「AIのフェイク」と決めつけられる現象が起きた。生成AI画像がネットに溢れた結果、人々が現実の出来事すら信じられなくなる現実認識の歪みが浮き彫りになっている。
OpenAI、米大統領選の対策データを公表 候補者の画像生成を25万件超拒否
OpenAIは2024年米大統領選に関する安全対策のデータを公表した。ChatGPTは大統領候補者らのDALL·E画像生成リクエストを25万件以上ブロックし、投票や開票結果に関する約300万件の質問を信頼できる公的情報源や報道機関に誘導したという。
OpenAI の研究・安全性担当副社長リリアン・ウォン氏が退社へ
金曜日、OpenAI で研究および安全性担当 VP を務めるリリアン・ウォン氏が、11 月 15 日付で退職すると発表しました。7 年間の在任中に 80 人規模の安全性チームを立ち上げたキーパーソンですが、同社では安全研究者の離脱が相次いでいます。
ビートルズ最後の新曲、AI音源分離でグラミー賞2部門ノミネート
報道によると、機械学習で修復・完成されたビートルズ最後の楽曲『Now and Then』がグラミー賞の最優秀レコード賞などにノミネートされた。1970年代のデモ音源からAI技術で故ジョン・レノンの歌声を分離し、規定に則り候補入りを果たした。
米Wendy's、PalantirのAIでサプライチェーン刷新 人気1ドル商品の品切れ防ぐ
Bloombergによると米Wendy'sがPalantirのAIソフトを導入し、サプライチェーンの需要予測を自動化した。過去の販売実績や輸送コストを分析し、人気プロモ「1ドル Frosty」の急な需要増にも供給網全体で即座に対応できる体制を整える。
AdobeがクリエイターのAI不信に挑む：人間を置き換えない編集支援
CNETはAdobeが推進する生成AI戦略を分析した。同社は一からの画像生成ではなく、電線の消去など面倒なレタッチ作業を効率化する生成編集に注力している。Photoshopの生成塗りつぶしは1日2300万回利用されているが、仕事の減少や著作権への懸念は根強い。
米連邦地裁、OpenAIに対する報道2社の著作権訴訟を棄却
米連邦地方裁判所は、Raw StoryとAlterNetがOpenAIを相手取って起こした訴訟を棄却しました。原告はChatGPTの学習データ作成時に記事の著者名などの権利情報が削除されたと主張しましたが、裁判官は具体的な損害が示されていないと判断しました。修正後の再提訴は認められています。
Amazon、Anthropicに数十億ドルの追加出資を検討か：独自チップ採用が条件
米メディアの報道によると、Amazon が Anthropic へ数十億ドル規模の追加出資を協議している。ただし条件として、AI の学習にアマゾン独自開発のチップを使うことを求めているという。Anthropic は Nvidia 製を好むとされるが、今年だけで 27 億ドル超を消費する見通しの中、資金確保のプレッシャーは強い。