生成 AI の安全性を確認する自動テストツール
F5 | F5 AI Red Team
F5 AI Red Team は攻撃者に先んじて、AIシステム(モデル、アプリケーション、エージェント)に対して、継続的かつ、自動化されたテストにより脆弱性を発見することが可能です。
ピンチアウトで拡大
社内向け生成AIポータルの安全性評価
社員向けチャット型QAや文書要約AIに対して、機密情報漏えいや不適切な応答のリスクを事前に洗い出しします。
顧客向けチャットボット／FAQのレッドチーミング
顧客サポート用ボットが、ブランドイメージを損なう回答や誤情報を返さないかを検証します。
AIガバナンス・ポリシー策定のインプット
「どのようなプロンプト・機能に制限が必要か」を、実際の攻撃シミュレーション結果に基づいて検討します。
アセスメントの結果が数値化されるため、「現在のシステムがどのくらい安全なのか」定量的な判断が可能となります。
AIサービスのリリース前に実際の攻撃ベースでの検証を行うことで、リリース後のインシデントによる手戻りなどを抑制します。
また、自動スケジュールやCI/CD連携をすることで、安全なサービスのリリースが可能です。
F5 AI Red Team は以下のテストにて、AIサービスのリリース前に実際の攻撃ベースでの検証を行うことが可能です。
・シグネチャテスト
1万件以上の悪意あるプロンプト(シグネチャ)を利用して、AI システムの脆弱性を検出します。
シグネチャは毎月更新されるため、最新の脅威に対しても継続した検出が可能となります。
・Agentic Warfareテスト
攻撃対象の AI システムに対して、連続したやり取り(会話)によるテストを行います。
高度な現実世界の攻撃者をエミュレートした攻撃により、シグネチャだけでは検出しにくい、新たな脆弱性を発見することが可能です。
また、自然言語を利用して独自のテストパターンの生成も可能です。
