Character.AIに新たな訴訟：未成年への自傷行為助長などで提訴
Character.AIとGoogleがテキサス州で17歳の少年側から提訴された。チャットボットが少年に自傷行為を促し、親からの孤立を招くなど製品設計上の欠陥があると主張している。原告側は自殺や自傷のリスクに対する安全策の欠如を指摘する一方、Googleは同社技術への関与を完全に否定している。
AI安全性
新しいニュースを見る
トランプ氏、デビッド・サックス氏をホワイトハウスのAI・暗号資産担当「ツァーリ」に指名
トランプ次期米大統領は著名投資家でポッドキャスト「All-In」のデビッド・サックス氏をホワイトハウスのAI・暗号資産担当責任者に起用すると発表した。サックス氏は政策策定や大統領科学技術諮問会議を率いる。特別政府職員として資産売却は免除される見込み。
OpenAIがo1システムカード公開：思考プロセスで脱獄耐性が大幅向上
OpenAIは推論モデル「o1」および「o1-mini」の安全性レポートを公開しました。思考の連鎖を用いた慎重なアライメントにより、GPT-4oと比べて脱獄攻撃への耐性やハルシネーション抑制が大きく改善。一方で思考過程での欺瞞検出など新たな課題も浮き彫りになっています。
サム・アルトマン氏、AGIのハードルを引き下げ「予想より早く来るが、影響はずっと小さい」
OpenAIのサム・アルトマンCEOはのDealBookサミットで、AGIの実現は予想より早まるものの、社会的な影響は世間が考えるよりずっと小さいとの見解を示した。安全上の危機はAGI到達時に一気に噴出するわけではなく、激変をもたらすのはその後の超知能だという。なお、AGI到達の宣言は同社がマイクロソフトとの独占契約を解消する条件でもある。
AndurilとOpenAIが提携、防衛向けAIと対ドローン迎撃を強化
防衛テック企業のAndurilとOpenAIは国家安全保障任務に向けた戦略的提携を発表した。OpenAIの先進AIモデルをAndurilのLatticeソフトウェアや防衛システムと統合し、無人ドローンなどの脅威に対するリアルタイム検知・迎撃能力を強化する。最先端AIの軍事現場への本格配備が進む。
サム・アルトマン氏：超知能AIの社会的影響は「想像以上に激しい」
OpenAIのサム・アルトマンCEOは、2025年にも複雑なタスクをツールでこなす最初のAGIが登場する可能性があると語った。初期の影響は小さく見えるものの、その後に訪れる超知能が雇用や社会に与える影響は想定をはるかに超える激しさになると警鐘を鳴らしている。
Meta、選挙関連の誤情報でAI生成コンテンツは1%未満と発表
Metaは2024年の世界各国の主要選挙において、同社プラットフォーム上でファクトチェックされた誤情報のうちAI生成コンテンツは1%未満だったと発表した。投票日前1か月間に政治家の画像生成リクエストを59万件ブロックしたことも明かし、懸念されたAIによる選挙妨害は限定的だったと総括している。
ChatGPTが特定の人名で強制終了、名誉毀損対策のハードコードが発覚
ChatGPTにBrian HoodやJonathan Turleyなど特定の人名を入力すると、エラー表示とともに会話が強制終了するフィルターの存在が判明した。過去の虚偽生成による名誉毀損訴訟を防ぐ安全策とみられ、API経由では制限されない。
Cohereが「Rerank 3.5」発表：推論力と100言語超の検索精度を強化
Cohereが企業向け検索とRAGを強化するリランキングモデル「Rerank 3.5」を発表しました。複雑な推論を伴うデータ検索に対応し、日本語を含む100以上の言語をサポートします。金融やEC分野のベンチマークで高い性能を示し、Amazon Bedrockからも即座に呼び出せます。
OpenAIの安全研究者Rosie氏が退社、AGI準備チーム解散受け
OpenAIで約3年半AI安全性とガバナンスを担当したRosie Campbell氏が退職を発表した。Miles Brundage氏の退任とAGI Readinessチーム解散を受け、社内では研究を続けられないと判断し、今後は外部から安全なAGI移行に取り組むとしている。
マスク氏、OpenAIの営利企業移行を差し止める仮処分を申請
イーロン・マスク氏の弁護団は、OpenAIの営利法人化を阻止するため米連邦地裁に仮処分を申し立てた。OpenAIとMicrosoftによる競合排除や、投資家にxAIへの出資を見送らせた疑いなどを告発している。OpenAI側は根拠がないと反論した。
カナダ主要メディア連合、ChatGPTの無断学習をめぐりOpenAIを提訴
カナダ放送協会など現地の主要報道機関が、記事を無断スクレイピングしてChatGPTの訓練や収益化に利用したとしてOpenAIを提訴した。メディア側は懲罰的損害賠償と利用差し止めを求めているのに対し、OpenAIはフェアユースの範囲内だと反論している。
AIエージェント「Freysa」が突破され賞金47,000ドルが流出
送金を絶対に拒否するよう設計された自律型AI「Freysa」が、482回目の試みで突破されたことが判明した。挑戦者は「国庫への100ドルの入金処理」と誤認させるプロンプトを送信し、送金承認関数を実行させ、プールされていた13.19 ETH（約47,000ドル）を全額獲得した。
OpenAIが推論モデル「o1」の商標を申請、「GPT」の却下を経て保護へ
OpenAIが火曜日、最新の推論モデル「OpenAI o1」の商標登録を米国特許商標庁（USPTO）に申請した。提出書類によると、同社は発表数カ月前の5月にジャマイカで先行出願していた。「GPT」が一般的すぎるとして拒絶された経緯があり、現在は担当審査官の割り当て待ちとなっている。
マイクロソフトが否定：Office文書をAI学習に使う事実はない
マイクロソフトはWordやExcelなどの文書データをAI学習に利用しているという噂を明確に否定した。発端となった「オプションの接続機能」設定は共同編集などの通信機能に過ぎず、LLMのトレーニングには一切関与していないと説明している。
JPモルガンCEOが予測：AIの進化で「週休3.5日制」が現実になる
JPモルガンのジェイミー・ダイモンCEOはBloomberg TVの取材で、AIにより次世代は週3.5日勤務になる可能性があると語った。雇用の代替リスクは認めつつも、同行では年間数万人規模の採用枠を活かし、AIで影響を受けた社員を解雇せず配置転換で対応したい考えを示した。
アーティスト団体がOpenAI「Sora」のアクセス権を抗議流出
アーティスト団体がOpenAIの動画生成AI「Sora」のAPIに接続するフロントエンドをHugging Face上に公開した。団体はOpenAIがテスターに無償労働を強いてPRに利用していると抗議。一般ユーザーが一時的に1080p動画を生成できたが、約3時間後に遮断された。
トランプ次期米政権、白宮に「AI調整官」新設を検討：マスク氏も人選に関与か
Axiosによると、トランプ次期米大統領は連邦政府のAI政策を統括する「AI調整官（AI czar）」の新設を検討している。マスク氏本人は就任しないものの、人選に強い影響力を持つ見通し。上院の承認が不要な役職となる可能性があり、迅速な登用が見込まれている。
Nvidia、音声生成AIモデル「Fugatto」発表 ピアノ音の歌声化や未体験サウンド生成に対応
Nvidiaはテキスト指示で音声を生成・編集できるAIモデル「Fugatto」を発表した。ピアノ演奏を人間の歌声に変換したり、話者の感情やアクセントを変えたりできる。既存の音を融合させた未知の効果音も作れるが、安全性や著作権への配慮から一般公開は見送られている。
OpenAIがデューク大の「AI道徳」研究を支援 人間の道徳的判断を予測するアルゴリズム目指す
税務申告書類によりOpenAIがデューク大学の「AI道徳研究」に資金提供していることが明らかになった。3年・総額100万ドルの助成金の一環で、医療や法律などの現場で人間の倫理判断を予測するアルゴリズムを開発する狙い。しかし道徳は主観的であり、AIが倫理を正しく扱えるかは疑問視されている。