モデルカタログを通じてモデルを使用するためのデータ、プライバシー、セキュリティ
この記事では、モデル カタログからモデルをデプロイするときに、提供されたデータが処理、使用、保存される方法について詳しく説明します。 また、Azure サービスによるデータ処理を管理する Microsoft 製品とサービスのデータ保護補遺も参照してください。
Azure Machine Learning にデプロイされたモデルに対して処理されるのはどのようなデータですか?
Azure Machine Learning にモデルをデプロイすると、サービスを提供するために次の種類のデータが処理されます。
プロンプトと生成されたコンテンツ。 プロンプトはユーザーによって送信され、コンテンツ (出力) はモデルでサポートされている操作を介してモデルによって生成されます。 プロンプトには、検索拡張生成 (RAG)、メタプロンプト、またはアプリケーションに含まれるその他の機能によって追加されたコンテンツが含まれる場合があります。
アップロードされたデータ。 微調整をサポートするモデルの場合、顧客は、微調整で使用するために Azure Machine Learning データストアにデータをアップロードできます。
リアルタイム エンドポイントを使用して推論出力を生成する
マネージド オンライン エンドポイントにモデルをデプロイすると、モデルの重みが専用の Virtual Machines にデプロイされ、リアルタイム推論用の REST API が公開されます。 モデル カタログからリアルタイム エンドポイントへのモデルのデプロイの詳細についてはこちらを参照してください。 これらのリアルタイム エンドポイントのインフラストラクチャを管理すると、Azure のデータ、プライバシー、セキュリティへの取り組みが適用されます。 Azure Machine Learning に適用できる Azure コンプライアンス認証の詳細についてはこちらを参照してください。
"Azure AI によってキュレーションされた" モデルのコンテナーでは、データを流出させる可能性のある脆弱性がスキャンされていますが、モデル カタログで利用できるすべてのモデルがスキャンされているわけではありません。 データ流出のリスクを削減するために、仮想ネットワークを使用してデプロイを保護できます。 詳細については、こちらのリンクを参照してください。 Azure Policy を使用して、ユーザーがデプロイできるモデルを規制することもできます。
従量課金制デプロイを使用して推論出力を生成する (サービスとしてのモデル)
推論のために従量課金制デプロイを使用してモデル カタログ (ベースまたは微調整済み) からモデルをデプロイすると、API がプロビジョニングされ、Azure Machine Learning service によってホストおよび管理されているモデルにアクセスできるようになります。 サービスとしてのモデルの詳細についてはこちらを参照してください。 モデルに対して提供されるモデルの詳細で説明されているように、モデルは、入力プロンプトを処理し、モデルの機能に基づいて出力を生成します。 モデルはモデル プロバイダーによって提供され、モデルの使用 (およびモデルとその出力に対するモデル プロバイダーの責任) は、モデルに付属するライセンス条項に従います、ホスティング インフラストラクチャと API エンドポイントは Microsoft が提供および管理します。 サービスとしてのモデルでホストされるモデルは、Azure のデータ、プライバシー、セキュリティのコミットメントの対象です。 Azure Machine Learning に適用できる Azure コンプライアンス認証の詳細については、こちらをご覧ください。
Microsoft は、従量課金制推論用にデプロイされたモデル (MaaS) により送信および生成されるプロンプトと出力のデータ プロセッサとして機能します。 Microsoft は、これらのプロンプトと出力をモデル プロバイダーと共有しません。また、Microsoft は、Microsoft、モデル プロバイダー、またはサード パーティのモデルをトレーニングまたは改善するために、これらのプロンプトと出力を使用しません。 モデルはステートレスであり、プロンプトや出力はモデルに保存されません。 コンテンツ フィルタリングが有効になっている場合、Azure AI Content Safety サービスによって有害なコンテンツの特定のカテゴリについてプロンプトと出力がリアルタイムでスクリーニングされます。Azure AI Content Safety でデータが処理されるしくみの詳細については、こちらをご覧ください。 プロンプトと出力は、デプロイ時に指定された地域内で処理されますが、運用上の目的 (パフォーマンスと容量管理を含む) のために、地域内のリージョン間で処理される場合があります。
サービスとしてのモデルのデプロイ プロセス中に説明したように、Microsoft は、顧客の連絡先情報とトランザクションの詳細 (オファリングに関連付けられている使用量を含む) をモデル発行元と共有して、モデルに関して顧客に連絡できるようにします。 モデルパブリッシャーが利用できる情報の詳細については、こちらのリンクを参照してください。
従量課金制デプロイのモデルを微調整する (サービスとしてのモデル)
従量課金制デプロイ (MaaS) で使用可能なモデルで微調整がサポートされている場合は、Azure Machine Learning データストアにデータをアップロード (または既にデータを指定) して、モデルを微調整できます。 その後、微調整されたモデルの従量課金制デプロイを作成できます。 微調整されたモデルはダウンロードできませんが、微調整されたモデルは次のことができます:
ご自分の使用のために排他的に利用可能です。
保存時に二重に暗号化できます (既定では、Microsoft の AES-256 暗号化と、必要に応じてカスタマー マネージド キーを使用)。
いつでも削除できます。
微調整のためにアップロードされたトレーニング データは、サービス内でユーザーが指示する場合を除き、Microsoft またはサード パーティのモデルのトレーニング、再トレーニング、または改善に使用されません。
ダウンロードしたモデルのデータ処理
モデル カタログからモデルをダウンロードする場合は、モデルをデプロイする場所を選択し、モデルを使用する場合のデータの処理方法について責任を負います。