Google Cloud で AI を保護
Google は、人間の専門知識と最先端のテクノロジーを組み合わせて、組織が AI を保護できるように支援しています。安全かつコンプライアンスとプライバシーに配慮した方法で、AI ワークロードを自信を持って構築、デプロイ、実行、管理できます。
AI ライフサイクル全体で AI モデル、アプリケーション、データ、インフラストラクチャを保護するために役立つツールをご確認ください。
AI ワークロードを保護
AI Protection は、以下によって AI リスクの包括的な管理をサポートします。
- AI インベントリの検出と、潜在的な脆弱性の評価
- 制御、ポリシー、ガードレールによる AI アセットの保護
- AI システムに対する脅威の管理
生成 AI アプリケーションを保護
Model Armor は、生成 AI のプロンプトとレスポンスをスクリーニングすることで、プロンプト インジェクション、ジェイルブレイク、データ損失、悪意のある URL、不快なコンテンツからお客様を保護します。生成 AI アプリケーションに対してマルチモデル、マルチクラウドのサポートを提供します。Model Armor は AI Protection に含まれていますが、デベロッパー チームが別途使用することもできます。
AI データ検出の自動化
AI アプリケーションを支えるデータと、そのデータがどのように保護されているかを理解することは非常に重要です。Sensitive Data Protection は、データ検出を自動化し、Vertex AI データセットに含まれるトレーニング データやチューニング データを把握できるようにします。
Security Command Center の AI Protection を使用すると、セキュリティ チームは AI の状況を 1 か所で把握し、AI リスクを他のクラウド ワークロードと関連付けて総合的に管理できます。仮想レッドチームなどの Security Command Center の機能は、AI Protection の一環として AI ワークロードに使用されます。
AI の保護
AI ワークロードを保護
AI Protection は、以下によって AI リスクの包括的な管理をサポートします。
- AI インベントリの検出と、潜在的な脆弱性の評価
- 制御、ポリシー、ガードレールによる AI アセットの保護
- AI システムに対する脅威の管理
Model Armor
生成 AI アプリケーションを保護
Model Armor は、生成 AI のプロンプトとレスポンスをスクリーニングすることで、プロンプト インジェクション、ジェイルブレイク、データ損失、悪意のある URL、不快なコンテンツからお客様を保護します。生成 AI アプリケーションに対してマルチモデル、マルチクラウドのサポートを提供します。Model Armor は AI Protection に含まれていますが、デベロッパー チームが別途使用することもできます。
機密データの保護
AI データ検出の自動化
AI アプリケーションを支えるデータと、そのデータがどのように保護されているかを理解することは非常に重要です。Sensitive Data Protection は、データ検出を自動化し、Vertex AI データセットに含まれるトレーニング データやチューニング データを把握できるようにします。
Security Command Center
Security Command Center の AI Protection を使用すると、セキュリティ チームは AI の状況を 1 か所で把握し、AI リスクを他のクラウド ワークロードと関連付けて総合的に管理できます。仮想レッドチームなどの Security Command Center の機能は、AI Protection の一環として AI ワークロードに使用されます。
セキュア AI フレームワーク（SAIF）
セキュアな AI システムのための概念的枠組みによって、AI セキュリティの課題に対して実践的なアプローチで対処します。
実務担当者向けリソース
Mandiant の AI セキュリティ コンサルティング サービス
ライフサイクルに焦点を当てた包括的なアプローチにより、組織は生成 AI によって浮上する多面的なリスクを効果的に軽減し、拡大を続けるセキュリティ ワークロードを管理できます。包括的なアプローチを採用することで、Google Cloud は AI の保護を簡素化し、顧客のエクスペリエンスを向上させています。
IDC、リサーチ ディレクター Grace Trinidad 博士
