2025 年 3 月 26 日、ANA インターコンチネンタルホテル東京にて開催した「Cisco AI インフラストラクチャ ＆ セキュリティ サミット」には、多くの方にご参加いただきありがとうございました。本イベントでは、AI 時代に向けて、AI インフラの構築と AI セキュリティの重要性について深く掘り下げ、デジタル変革、AI 戦略、セキュリティを加速させるための情報をご提供しました。このイベントの中でお話した内容を 3 本のブログでご紹介します。
シスコで AI Software and Platform のバイスプレジデントを務める DJ Sampath は、「AI のためのセキュリティ: Cisco AI Defense の発表」と題し、AI 技術の急速な進化に伴い高まるセキュリティリスクと、それに対応するためにシスコが開発した最新ソリューションについて解説しました。
企業における AI 活用の現状と未来
現代のビジネス環境において、AI の進化は驚異的なスピードで進んでおり、多くの方が AI ツールを利用するようになりました。それにより、労働環境に大きな変化が生じつつあります。例えば、2025 年末までには 50 万のヒューマノイドロボットが稼働し、その力を借りた 80 億の人によって、生産性としては 800 億人分の仕事をしている状態になると予測されています。
「注目すべきは、人間と同じようにタスクをこなせるジェネリック AI や、人間のレベルを超えたスーパーインテリジェンスの実現は、もうすぐそこまで来ているということです。新薬発見、RNA ワクチン開発などの分野では、すでに AI が人間の能力を超える成果を上げています」(Sampath)
AI による新たなリスク要素
こうした AI の普及に伴って、企業はこれまでにない新たなリスク要因に対処していかなくてはなりません。通常のアプリケーションでは、まずインフラがあり、その上にデータやアプリケーションが存在します。その一方、AI アプリケーションは少し異なり、データとアプリケーションの間に「モデル」が存在しています。
この AI モデルは基本的に、同じ質問をしても毎回異なる答えが返ってくる「非決定論的」なものであり、従来のソフトウェアでは見られなかった全く新しいリスク要因が発生しています。
AI モデルが破綻した場合のリスクは大きく 2 つに分けることが可能です。
1 つはモデルのセーフティに関するもので、「ハルシネーション」「有害なコンテンツ」「自傷行為」などがあります。もう1つはセキュリティに関するもので、インターネットに接続した途端、「インフラストラクチャの侵害」「プロンプトインジェクション」「トレーニングのポイズニング」などの攻撃に晒される危険があります。
では、どのようにして攻撃から AI を守ればよいのでしょうか。
近頃は攻撃者も AI を積極的に活用しており、「2025 年に書かれる新しいコードの 90% 以上は AI が使われるだろう」と言われているほどです。そこで各モデルプロバイダーがガードレール（AI 利用における想定外の動作やリスクを防止するための仕組みや制御手段）を設けていますが、複数のモデルを利用する場合、企業は各モデルに対してインターフェースをとる必要が生じてしまいます。単一のガードレール、単一のレイヤー統一することが理想であり、多くの企業はそれを望むはずです。
「企業は間もなく数百の AI モデルを利用する状況になるでしょう。しかし、スピード優先でセーフティとセキュリティを犠牲にすることはできません。そのため、セキュリティを抜本的に刷新する必要があります」(Sampath)
Cisco AI Defense とは
これらの新たな課題に対応し、全ての企業が恐れなくイノベーションできるように、シスコは AI Defense を開発しました。Cisco AI Defense は、フォーチュン 500 をはじめとするグローバル企業から学んだ知見を元に、AI のセキュリティ保護のために考えなければならない 2 つのユースケースへ対応しています。
ユースケースの1つは「AI アプリケーションの使用」に関するものです。Cisco AI Defense は、従業員が ChatGPT や Gemini、Copilot などを利用する際に、プロンプトとレスポンスを保護します。具体的には、まず、サードパーティを含むアプリケーションの使用状況をリストで可視化しそれに対してポリシーを適用、Cisco Secure Access とのシームレスな連携によって誤操作での情報共有などによる機密情報の漏洩を防止します。これによって従業員は安心感が得られ、AI の採用を急速に広げられるようになります。
もう 1 つのユースケースは「AI アプリケーションの開発」に関するものです。API を経由した外部サービスなどを通して、ユーザーが認識しているよりもかなり多くの AI が実際には利用されているものです。そこで Cisco AI Defense は、まず、AI アプリケーション、エージェント、モデル、データソースを自動検出し可視化します。次に、モデルに対してスキャンを行い、脆弱性を特定して、適切なガードレールの実装を推奨します。ガードレールはランタイムで実行することもでき、さまざまな実行ポイントに適用可能です。
「発見、検知、そして防御によって、エンドツーエンドのAIディフェンスを提供します」(Sampath)
シスコの革新的なアプローチ
シスコはネットワーク技術における「大規模な検証」と「大規模な保護」の実績を背景に、AI セキュリティにおいて3点の革新的なイノベーションを提供します。
1. AI の脆弱性データベース構築
従来のソフトウェアセキュリティには、CVE（共通脆弱性識別子）データベースがあり、既知の脆弱性とその対策が共有されていました。しかし、AI には脆弱性のデータベースが存在しません。この課題に対応するため、シスコは「AI の脆弱性データベース」の構築に取り組んでいます。これにより、AI モデルの脆弱性を体系的に把握し、適切な対策を講じることが可能になります。
2. アルゴリズムによるレッドチーミング
通常の脆弱性検証では「レッドチーム」と呼ばれる専門家がアプリケーションを攻撃し、脆弱性を発見します。しかし、AI モデルは数十億ものパラメータを持ち、人ではとても対応しきれません。そこでシスコは、AI アルゴリズムの力を使って、モデルに対して検証を行うアプローチを開発しました。TAP（Tree of Attacks with Pruning）技術を持つ Robust Intelligence 社を買収し、脅威インテリジェンスの「Cisco Talos」と組み合わせることで、強力なレッドチーミングソリューションを構築しています。
「どこに脆弱性があるのか、そしてどのようなガードレールを実装しなければならないのかが、このソリューションによって明らかになるのです。後はボタンをクリックするだけで、これを適用できます」(Sampath)
3. 従来のセキュリティをネットワークファブリックに融合
シスコの強みである Cisco Secure Access（ゼロトラストによるアクセス制御）や Cisco Multicloud Defense（クラウドワークロードの保護）といったネットワーク技術を活用し、AI ガードレールをネットワークファブリックへシームレスに融合することで、AI の保護を実現します。
「Cisco AI Defenseによって、全てを可視化し、あらゆる場所でポリシーを適用できるようになります。これにより、AI アプリケーションの開発者がスムーズに運用できる環境を実現しつつ、摩擦なくセキュリティを実装していきます。つまり Cisco AI Defense は、開発者が多くの AI ソリューションを安全に構築できる環境を提供するものなのです」(Sampath)
Cisco Secure AI Factory with NVIDIA
シスコは NVIDIA とのコラボレーションによる「Cisco Secure AI Factory with NVIDIA」の提供を発表しました。これは AI アプリケーションとエージェントの開発に適切なインフラを提供するプラットフォームであり、Cisco AI Defense はその中核技術です。
「AI セキュリティに関して、Cisco は本当にたくさんのことに取り組んでおり、そしてそのケイパビリティをシームレスな形で皆様にお届けできる、非常に独特な立場にあります」(Sampath)
Cisco AI インフラストラクチャ ＆ セキュリティ サミット 関連Blog
▶︎ 生成 AI をビジネスの力に―― AI セキュリティ実装のファーストステップ
▶︎ 複雑ゆえに構築が進まない AI インフラ－－シスコが 3 つの価値で AI 活用を後押し
Authors
1 コメント
石原さん、RSAではお世話になりました。
Cisco AI Defenseの網羅性、また「TAP（Tree of Attacks with Pruning）技術を保有しているRobust Intelligenceを、競合他社の一番手として挙げている企業とも会いました。今後とも貴社の動向に注視をしていコメントます、ありがとうございました。