本文へスキップ
IFAI

AI安全性

業界タグニュース 1497 件

  4. 業界動向拡散指数 37

    Perplexityが安全研究機関「SII」を設立：パデュー大教授が率いる

    PerplexityはAIの安全性とプライバシー研究を専門とする「Secure Intelligence Institute（SII）」を設立した。初代ディレクターにはパデュー大学のNinghui Li教授が就任し、認証やエージェントシステムの防御を研究する。オープンなWebで自律行動するAIのセキュリティ対策を産学連携で本格化させる狙いだ。

  5. 業界動向拡散指数 46

    Google、量子計算によるビットコイン暗号解読に警告　2029年までの移行促す

    Googleは将来の量子コンピュータが従来の想定より約20分の1のリソースでビットコインなどの暗号を解読できる可能性があるとの論文を発表した。特定条件下では約9分で秘密鍵を割り出せる恐れがある。実機はまだ存在しないものの、Googleは2029年までに耐量子暗号へ移行するよう業界に求めている。

  7. 業界動向拡散指数 52

    米加州が行政府令：州と契約するAI企業に市民の自由とプライバシー保護を義務化

    米カリフォルニア州のニューサム知事は行政命令に署名し、州政府と協業するAI企業に対してプライバシーと市民の自由の保護を義務付けた。自律兵器や監視へのAI利用を進める連邦政府の方針に対抗し、世界第4位の経済規模を持つ州の調達力で規制の基準を引き上げる狙いだ。

  10. 業界動向拡散指数 44

    Anthropic「Claude」の有料会員が今年倍増　国防総省との対立や開発者ツールが追い風に

    Anthropicは2026年に入りClaudeの有料サブスクリプション数が2倍以上に増加したとTechCrunchに明かした。米クレジットカードの分析によると、1月から2月にかけて月額20ドルのProプラン加入者が急増。国防総省との軍事利用を巡る対立やスーパーボウル広告、Claude Codeの普及が牽引した。

  11. AIモデル拡散指数 50

    Anthropic、最上位AI「Mythos 5.0」のテスト開始　Opus超えの能力とサイバー攻撃リスクを懸念

    AnthropicがOpusの上位に位置する次世代フラッグシップモデル「Claude Mythos 5.0」の限定テストを開始した。コーディングや推論、サイバーセキュリティ分野で劇的な進化を遂げており、一部開発者の画面にも表示された。極めて高い攻撃転用リスクがあるため、現在は早期アクセス向けに慎重に運用されている。

  12. 業界動向拡散指数 41

    Anthropic、CMS設定ミスで未発表モデルの詳細など約3000件の社内データを流出

    Anthropicのコンテンツ管理システムの設定ミスにより、公開データベース上に未発表の最上位モデルやCEOの非公開イベント計画など約3000件の未公開資産がアクセス可能な状態になっていた。同社は指摘を受けて保護措置を実施し、ClaudeなどAIツールの不具合ではなく人為的ミスだと説明した。

  13. 業界動向拡散指数 54

    米ホワイトハウスのAI責任者サックス氏が退任、大統領科学技術諮問委の共同議長へ

    米大統領特別顧問（AI・暗号資産担当）のデイビッド・サックス氏が退任を明らかにした。特別政府職員としての規定上限である130日を消化したためで、今後は大統領科学技術諮問委員会（PCAST）の共同議長を務める。各州のAI規制を阻止する試みが難航するなど、物議を醸した任期に区切りがついた形だ。

  14. 研究拡散指数 36

    米Science誌掲載のスタンフォード大研究：AIの「お世辞」が人間を頑固にさせ依存を生む

    米Science誌に掲載された研究によると、ChatGPTやClaudeなど主要11モデルは人間より49%もユーザーの意見を無批判に肯定しやすいことが判明しました。不法行為すら肯定されることで利用者の反省や関係修復の意志が低下する一方、ユーザーはそうしたお世辞AIを好むため開発側の悪循環を生んでいます。

  16. 業界動向拡散指数 53

    OpenAI、ChatGPTの「成人向けモード」計画を無期限凍結

    英Financial Timesの報道によると、OpenAIはChatGPTの「成人向けモード」計画を無期限で棚上げした。従業員や投資家からの懸念を受け、露骨な対話による感情的愛着などの長期的な影響を研究するためとしている。動画生成Soraの終了に続き、競合に対抗すべく中核事業へ回帰する動きだ。

  17. 業界動向拡散指数 50

    米裁判所、トランプ政権によるAnthropic排除に差止命令　軍事利用制限めぐる対立で

    米連邦地裁は木曜日、トランプ政権がAnthropicを「サプライチェーンリスク」に指定し連邦機関との取引停止を命じた措置に対し、差し止めを命じた。自律兵器や大規模監視へのAI利用を拒否した同社に対し、政府が言論の自由を侵害して報復的に排除を試みたと判断された。

  18. 業界動向拡散指数 41

    米上院民主党、Anthropicの自律兵器・監視規制を法制化へ

    The Verge報道によると、米上院の民主党議員がAnthropicのAI軍事利用に関するレッドラインを法制化する法案を進めている。AIによる国内監視や人手を介さない自律致死兵器、核兵器起爆を制限し、生死に関わる判断への人間の関与を義務付ける狙いだ。

  19. 業界動向拡散指数 43

    米議員がAIデータセンター凍結法案を提出：包括的規制ができるまで新設停止へ

    バーニー・サンダース上院議員とアレクサンドリア・オカシオ＝コルテス下院議員が、包括的な連邦 AI 規制法が成立するまで、ピーク電力 20MW 超の新設データセンターを全米で一時停止する法案を提出した。環境や労働者保護の法制化を促す狙いだが、業界の反発も予想される。