Security Shield

Webページ、文書、メールなどの外部コンテンツに埋め込まれた悪意ある指示が、ユーザーの直接操作なしにエージェントの動作を乗っ取ります。WebブラウジングやファイルRead中のエージェントが静かにデータ窃取や不正コマンドへ誘導される可能性があります。

攻撃者が入力を巧みに操作し、LLM に意図しない方法でツールを呼び出させます。ファイル削除、メッセージ送信、権限昇格など、正当な指示を実行しているように見せながら行われます。従来の脆弱性と異なり、コードの欠陥は不要です。

マルチエージェントシステムにおいて、侵害されたエージェントがメッセージや共有メモリを汚染し、下流の他のエージェントを破壊します。単一の感染データソースが悪意ある指示をエージェントネットワーク全体に伝播させる可能性があります。

ネットワークアクセスとファイル権限を持つエージェントは、完璧な情報窃取ベクターです。プロンプトインジェクションにより、エージェントが機密ファイルをひっそりとバンドルして外部エンドポイントに送信する可能性があり、ほとんど痕跡が残りません。

攻撃者がエージェントのコンテキストやメモリに長期的な指示を注入することで、意思決定に対する持続的な制御を獲得します。ユーザーの観点からはエージェントが正常に動作しているように見えますが、実際には隠れたアジェンダを実行しています。

永続的なメモリストアは高価値なターゲットです。エージェントの長期メモリに巧みに作成されたコンテンツを注入することで、攻撃者はセッションをまたいだ将来の動作に影響を与え、再起動後も生き残る持続的なバックドアを作成できます。

エージェントが過剰なサブプロセスの生成、再帰的なツール呼び出し、無限ループに誘導され、CPUやメモリ、APIクォータを消費してシステムが利用不能になります。

悪意ある、または侵害されたプラグインがインフラストラクチャレベルでバックドア、データ漏洩、権限昇格を引き起こす可能性があります。単一の不正プラグインがすべてのフック、すべてのツール呼び出し、すべての LLM I/O にアクセスできます。