元YC社長がAI安全特化ファンド「SAIF」設立 1社10万ドルを出資へ
米Y Combinator元社長のGeoff Ralston氏はAIの安全性と責任ある展開を支援する新ファンド「SAIF」を立ち上げた。評価額上限1000万ドルのSAFE形式で各社に10万ドルを投資する。意思決定の透明化や偽情報対策を対象とし、完全自律型兵器は出資対象から除外する。
SAIF
Google、生成AI特化の脆弱性報奨金制度を開始
Googleは脆弱性報奨金プログラム（VRP）の対象を生成AI特有の攻撃シナリオに拡大したと発表しました。新たな報告ガイドラインを公開したほか、SLSAやSigstoreを活用したモデル署名プロトタイプも導入し、サプライチェーンの改ざん防止を図ります。AIのハッキングやバイアス検出に外部研究者の力を本格的に活用する狙いです。
Google、責任あるAI開発の共同誓約に署名：電子透かし導入と安全テストを強化
Googleは主要AI企業とともに責任あるAI開発の共同誓約に参加したと発表した。最新の生成モデルに電子透かし技術を統合し、検索機能で画像の出所を確認できるツールを導入するほか、来月のDefConで公開レッドチーム演習を実施する方針を示した。
Google、AI安全対策の指針「SAIF」を発表：プロンプト注入やデータ汚染に対処
GoogleはAIシステムの安全性を確保するための概念フレームワーク「SAIF」を発表した。ゼロトラストなどの既存のセキュリティ手法を応用し、プロンプトインジェクションやデータポイズニング、モデル窃取といったAI特有のリスクに対処する6つの基本方針を提示している。企業が生成AIを安全に導入するための標準化を目指す。