シスコが「Cisco AI Defense」発表：企業のAI開発と利用を守る新セキュリティ

業務効率化のために未公開の社内データを外部の生成AIツールに貼り付ける従業員や、セキュリティ検証を経ずにオープンソースモデルを本番環境に組み込む開発チーム。企業の現場では、こうした見えないリスクが急速に広がっています。

Ciscoは1月15日、企業のAI活用を包括的に保護する新ソリューション「Cisco AI Defense」を発表しました。提供開始は3月を予定しています。ネットワーク層にセキュリティガードレールを直接組み込み、従業員によるAI利用と、社内エンジニアによるAI開発の双方を監視・保護する仕組みです。

同社の「2024 AI Readiness Index」調査によると、AIへの不正な改ざんを検知・防御できる体制が整っていると答えた企業は、全体のわずか29%にとどまりました。従来型のファイアウォールやエンドポイント対策では、マルチモデルやマルチクラウドを行き交う新たな脅威に対応しきれないのが実情です。

シャドーAIの監視から開発パイプラインの検証まで

Cisco AI Defenseの機能は、利用側と開発側の2つの領域に分かれています。

利用側に対しては、いわゆる「シャドーAI」の可視化と制御を担います。従業員がパブリッククラウドやプライベート環境で使っているAIツールを網羅的に検出し、未承認ツールの遮断や、機密情報の持ち出しを防ぐデータ保護ポリシーを適用します。

開発側に対しては、モデルの事前検証と運用時セキュリティを提供します。独自のアルゴリズムによるレッドチーム機能が、モデルチューニング時に潜む数百件もの安全・セキュリティ脆弱性を自動テストし、推奨される防御策を提示します。本番稼働後も、プロンプトインジェクションやDoS攻撃、データ漏洩を継続的に監視します。

ネットワーク基盤を活かしたマルチモデル防御

各AIモデルに内蔵された安全機能だけに頼ると、企業が複数の異なるモデルを併用した際にポリシーが分断されてしまいます。Ciscoはこれに対し、自社の強みであるネットワーク基盤を活用して一元的な制御を敷くアプローチをとりました。

本ソリューションは「Cisco Security Cloud」に統合され、脅威インテリジェンス機関であるCisco Talosのデータを活用して自律最適化を行います。同社傘下のSplunkの利用企業であれば、既存の監視ダッシュボードに詳細なコンテキスト付きのアラートを統合可能です。なお、MITRE、OWASP、NISTといった業界基準の策定にもCiscoは関与しています。

World Wide TechnologyのAI・サイバーイノベーション責任者を務めるKent Noyes氏は、従来のセキュリティ製品では防げない新しいリスクに対し、資産の可視化と保護を両立する前進だと評価しています。

なぜ重要か

企業のIT責任者にとって、現場のAI活用を禁止して生産性を落とすか、野放しにして情報漏洩を覚悟するかという二者択一に終止符を打つ選択肢になり得ます。すでにCiscoのネットワーク機器やSplunkを導入している企業なら、自社内でどんなAIが勝手に使われているかを洗い出すだけでも、3月の提供開始時に試す価値があると言えます。

業界全体で見れば、AIセキュリティの主戦場が「モデル単体の調整」から「ネットワークインフラによる統制」へと広がったことを示しています。モデル提供企業がどれだけ安全性を高めても、企業ネットワーク全体を流れるデータの挙動までは管理できません。

このインフラを押さえたアプローチは極めて手堅いと評価できます。ただし、巧妙化するプロンプトインジェクションや脱獄の手法をネットワークトラフィックの解析だけでどこまで正確に遮断できるか、過検知で業務を止めずに実効性を担保できるかは、実際のリリース後の検証を見極める必要があります。