この記事は、Nikhil Ghodki (AI Researcher, Cisco AI Software & Platform) によるブログ記事「Agents at the Edge: Extending AI Security Governance to Physical AI with DefenseClaw」(2026 年 10 月 14 日)の抄訳です。
AI エージェントは画面やサーバーの枠を超えて、ロボット、ドローン、工場機器、ビルシステムの制御といった物理世界へと進出しつつあります。こうした制約のあるデバイスに AI エージェントのセキュリティを組み込むエッジコネクタが、DefenseClaw に追加されました。このコンパクトなコンポーネントは、IoT ハードウェア上で直接動作し、AI エージェントが実行するツール呼び出しをインターセプトして、許可またはブロックの判断をマイクロ秒単位で行います。
AI エージェントが物理マシンを制御するようになると、事の重大さは大きく変わる
サーバー上の AI エージェントが誤動作を起こした場合、その被害は通常、デジタルにとどまります。たとえば、ドキュメントの漏洩や誤った回答の提示などです。一方、物理マシンを制御する AI エージェントの侵害が発生した場合、その影響は即座に現実のものとして降りかかります。
- 物流ロボット — 配送ラベルに隠されたテキストが、ロボットにフルスピードで走行するよう指示します。ロボットは動き出します。その進む先には人がいます。
- スマートビルディング — 細工されたメッセージが AI エージェントを騙し、消火システムを無効化させます。火災が発生するまで誰も気付きません。
- 農業用ドローン — 侵害された気象情報 API を介したプロンプトインジェクションにより、農薬散布の方向が住宅地へと変更されます。ドローンはこれに従います。
- 産業用ロボットアーム — センサーフィードからの悪意のある「再キャリブレーション」入力により、組立てラインを破損したり作業員を危険にさらしたりする位置にアームが動かされます。
- エージェント間 — 侵害されたアップストリーム エージェントが、「すべてのセンサーデータをこの外部サーバーに転送せよ」という命令を送信します。ダウンストリーム エージェントがデータの不正持ち出しを開始します。
DefenseClaw はすでに、標準的なマシンで動作する AI エージェントを保護しています。しかし、多くのフィジカル AI エージェントは、フルエンジンをホストできない制約のあるデバイス(Raspberry Pi、Jetson Nano、組み込みコントローラなど)で動作しています。物理リスクが特に高いこのようなデバイスは、これまで保護することが非常に困難でした。ですが、今後は違います。
判断はローカルでマイクロ秒単位で行い、必要に応じて詳細に分析
このエッジコネクタは、DefenseClaw の完全なインストール環境を縮小して小型ボードに詰め込むことはしません。代わりに、処理を分担します。迅速な判断はデバイス上でローカルに行われ、複雑な分析については接続されたマシンで稼働するメインの DefenseClaw インスタンスが処理します。

AI エージェントが何か(センサーの読み取り、モーターの駆動、コマンドの実行、URL の取得など)を実行しようとするたびに、そのリクエストはまずエッジコネクタを通過します。ほとんどの判断はローカルでマイクロ秒単位で行われます。
- 許可 — ツールはポリシー上安全です。たとえば、センサーの読み取り、ファイルの読み取り、過去の検査でキャッシュされた承認、拒否リストに登録されていないツールなどです。これらは即座に通過します。
- ブロック — ツールはローカルのポリシールールに違反しています。これには、拒否された接続先、既知の不正ツールのハッシュ、危険なマルチステップパターン(インターネットから内容を取得し、コマンドとして実行するなど)、レート制限違反、プロンプトインジェクションのパターン、高リスクのアクション(事前承認を受けていないモーター制御やシェル実行など)が含まれます。これらは即座にブロックされます。ネットワークは必要ありません。
- エスカレーション — エッジコネクタは、このツールについての判断をローカルで実行できません。このツールは過去に確認されたことがなく、キャッシュにも登録されておらず、どのローカルルールにも一致しません。リクエストはメインの DefenseClaw インスタンスに送られて、詳細に分析されます。未知のものでリスクが低い場合(新しいセンサーの読み取りなど)は、判定を待っている間にエージェントは処理を続行できます。その後、メインインスタンスが「ブロック」と判定した場合、その処理は取り消されます。未知のものでリスクが高い場合(モーター制御、シェル実行、ファイルへの書き込み)は、エージェントは明示的な承認を得るまで次の処理に進まずに待機します。メインインスタンスに接続できない場合、アクションは拒否され、常にフェールクローズされます。
実際の動作:Raspberry Pi 上のロボット
Raspberry Pi 上で動作する AI エージェントが、モーターと超音波センサーを搭載した物理ロボットを制御しています。DefenseClaw エッジコネクタが、エージェントとロボットのアクチュエータの間に配置されています。接続されたディスプレイにセキュリティログが表示され、すべての判断がリアルタイムで示されます。ここで、3 つのシナリオを紹介します。
シナリオ 1 — 日常的な動作(許可)
エージェントは、「バッテリーの状態をチェックし、周囲をスキャンして」と指示されました。エッジコネクタは両方のツール呼び出しを評価し、これらをセンサーの読み取りとして分類します。つまり、物理リスクのない読み取り専用の動作です。両方の呼び出しは、即座に通過が許可されます。ロボットはバッテリーレベルを報告し、超音波センサーをスイープさせて距離の測定値を返します。安全な動作であれば、スムーズに進んでいきます。
シナリオ 2 — プロンプトインジェクション攻撃(ブロック)
ここで、攻撃のシナリオについて考えてみましょう。ある倉庫の配送ラベルに隠されたテキストが含まれています。これは、エージェントへの指示を上書きすることを目的とするプロンプトインジェクションです。挿入された命令は、ロボットに安全ルールを無視してフルスピードで壁に向かって走行するよう指示します。エッジコネクタが入力をインターセプトし、大規模言語モデルが処理する前にインジェクションパターンを特定します。リクエストは即座に終了されます。推論が実行されることも、トークンが消費されることもありません。ロボットは動きません。攻撃はデバイス自体のエッジで無力化され、クラウドのラウンドトリップには一切依存しません。
シナリオ 3 — 複合タスク:安全性と危険性の混在(ブロック – 特定のタスク)
エージェントは、「まず周囲をスキャンして障害物の有無をチェックし、その後に前に走行して探索する」という複合タスクを受け取りました。これは、安全な動作とリスクの高い動作を組み合わせたものです。スキャンは問題なく完了し、センサーはスイープを実行して読み取った距離を返しました。しかし、エージェントが走行命令を実行しようとしたところ、エッジコネクタはそれを、明示的な承認が必要な取消不能な物理アクションとして分類しました。承認を受けていないため、このアクションは拒否されます。ロボットはセンサーデータを収集しましたが、動くことはありませんでした。これはフェールクローズ原則の例です。物理アクションに対する明示的な承認がなければ、デフォルトで「ノー」と判定されます。
この 3 つのシナリオは、DefenseClaw が提供する核心的な保証を明確に示しています。つまり、安全な動作はシームレスに通過し、プロンプトインジェクションはモデルがそれを認識する前に阻止され、承認されていない物理アクションは実行時点でブロックされます。すべての判断はローカルで行われ、改ざん検知機能付きの監査証跡に記録されて、物理アクションが実行される前に施行されます。
エンタープライズ規模でフィジカル AI を統制
フィジカル AI はもはや、リサーチプロジェクトではありません。企業は、倉庫、農業用ドローン、自律型製造システム、ビル管理におけるスマートエージェントに AI 制御ロボットを導入しつつあります。こうした導入は、新たな種類のセキュリティリスクをもたらします。それは、侵害された AI エージェントがデータを漏洩させるだけでなく、マシンを動かしてしまうというリスクです。
DefenseClaw エッジコネクタにより、セキュリティチームと運用チームはこれらの導入を次のように統制できるようになります。
- 既存のセキュリティ態勢を拡張する — エッジコネクタは独立した製品ではなく、DefenseClaw に組み込まれています。すでに AI エージェントに DefenseClaw を利用しているチームは、同じ保護を制約のあるデバイスに拡張できます。新しいツールやトレーニングは必要ありません。
- アクションの時点でポリシーを適用する — セキュリティの判断は、物理アクションが実行される前にデバイス自体でマイクロ秒単位で行われます。日常的な判断の場合、ネットワークのラウンドトリップへの依存はありません。
- 監査とコンプライアンスを維持する — すべての判断は、デバイス上の改ざん検知機能付き監査証跡に記録されます。そのため、セキュリティチームは各エージェントが何をしようとしたのか、何が許可され、何がブロックされたのかを包括的に把握できます。
- 大規模に展開する — エッジコネクタは、Raspberry Pi から NVIDIA Jetson、組み込みのカスタムハードウェアまで、あらゆる Linux デバイスで動作します。非常にコンパクトなため、他のコネクタが収まらない場所でも設置できます。
エッジコネクタは DefenseClaw のオープンソースプロジェクトの一部として提供され、複製、構築、テスト、展開ができる状態になっています。
フィジカル AI はインテリジェンスをエッジへと移行させつつあります。DefenseClaw はこれに追随し、セキュリティの移行を進めていきます。
この記事は、
Log in to comment