Détecter une dérive de données (préversion) sur des jeux de données

Apprenez à répondre au besoin de gouvernance et à l’équilibrer avec le besoin d’agilité.

Avec les analyses de jeux de données Azure Machine Learning (version préliminaire), vous pouvez :

  • Analyser la dérive de vos données pour comprendre comment elles évoluent au fil du temps.
  • Surveiller les données de modèle pour identifier les différences entre les jeux de données de formation et de service. Commencez par la collecte des données de modèle à partir des modèles déployés.
  • Surveiller les nouvelles données pour identifier les différences entre le jeu de données de référence et le jeu de données cible.
  • Profiler les caractéristiques dans les données pour suivre la façon dont les propriétés statistiques évoluent au fil du temps.
  • Configurer des alertes sur la dérive des données pour les premiers avertissements relatifs aux problèmes potentiels.
  • Créez une version de jeu de données lorsque vous déterminez que les données ont été trop dérivées.

Un jeu de données Azure Machine learning est utilisé pour créer l’analyse. Le jeu de données doit inclure une colonne timestamp.

Vous pouvez afficher les métriques de dérive des données avec le kit de développement logiciel (SDK) Python ou dans Azure Machine Learning Studio. Les autres métriques et insights sont disponibles par le biais de la ressource Azure Application Insights associée à l’espace de travail Azure Machine Learning.

Important

La détection de dérive des données pour les jeux de données est actuellement en version préliminaire publique. La préversion est fournie sans contrat de niveau de service et n’est pas recommandée pour les charges de travail en production. Certaines fonctionnalités peuvent être limitées ou non prises en charge. Pour plus d’informations, consultez Conditions d’Utilisation Supplémentaires relatives aux Évaluations Microsoft Azure.

Prérequis

Pour créer et utiliser des analyses de jeux de données, vous avez besoin des éléments suivants :

Qu’est-ce qu’une dérive de données ?

La dérive de données est l’une des principales raisons pour lesquelles la précision du modèle se dégrade au fil du temps. Dans le contexte de l’apprentissage automatique, la dérive de données est la modification des données d’entrée du modèle qui entraîne une dégradation des performances du modèle. La surveillance de la dérive des données permet de détecter les problèmes de performances du modèle.

Les causes de la dérive des données sont les suivantes :

  • Modifications de processus en amont, comme le remplacement d’un capteur, lequel ne prend plus les mesures en pouces mais en centimètres.
  • Problèmes de qualité des données, par exemple un capteur cassé indique toujours une valeur nulle.
  • Dérive naturelle des données, comme la variation de la température moyenne au fil des saisons.
  • Modification de la relation entre caractéristiques ou écart de covariable.

Azure Machine Learning simplifie la détection de la dérive en calculant une mesure unique en faisant abstraction de la complexité des jeux de données comparés. Ces jeux de données peuvent comporter des centaines de fonctionnalités et des dizaines de milliers de lignes. Une fois la dérive détectée, vous pouvez examiner les fonctionnalités qui sont à l’origine de la dérive. Vous Inspectez ensuite les métriques au niveau des fonctionnalités pour déboguer et isoler la cause racine de la dérive.

Cette approche descendante permet de surveiller facilement les données qu’avec les techniques traditionnelles basées sur les règles. Les techniques basées sur des règles telles que la plage de données autorisée ou les valeurs uniques autorisées peuvent être longues et sujettes aux erreurs.

Dans Azure Machine Learning, vous utilisez des analyses de jeu de données pour détecter et alerter la dérive des données.

Analyses de jeu de données

Avec un moniteur de jeu de données, vous pouvez :

  • Détecter et signaler la dérive des données sur les nouvelles données d’un jeu de données.
  • Analyser les données de l’historique de la dérive.
  • Profiler les nouvelles données au fil du temps.

L’algorithme de dérive des données fournit une mesure globale des modifications apportées aux données et indique les caractéristiques qui sont responsables de l’investigation. Les superviseurs de jeu de données produisent un certain nombre d’autres métriques en profilant les nouvelles données dans le jeu de données timeseries.

Des alertes personnalisées peuvent être configurées sur toutes les métriques générées par le superviseur via Azure Application Insights. Les superviseurs de jeu de données permettent de détecter rapidement les problèmes des données et de réduire le temps nécessaire au débogage du problème en identifiant ses causes probables.

Conceptuellement, il existe trois scénarios principaux pour la configuration des analyses de jeux de données dans Azure Machine Learning.

Scénario Description
Surveiller des données de service d’un modèle afin de détecter toute dérive des données de formation du modèle Les résultats de ce scénario sont le fruit de la surveillance d’un proxy en vue de vérifier l’exactitude du modèle, étant donné que celle-ci se dégrade si les données de service dérivent des données de formation.
Analyser un jeu de données de série chronologique pour la dérive d’une période précédente. Ce scénario est plus général et peut être utilisé pour analyser les jeux de données impliqués en amont ou en aval de la génération de modèles. Le jeu de données cible doit avoir une colonne timestamp. Le jeu de données de base peut être n’importe quel jeu de données tabulaires ayant des caractéristiques en commun avec le jeu de données cible.
Exécution de l’analyse des données passées. Ce scénario peut permettre de comprendre les données historiques et éclairer les décisions de définition des paramètres des moniteurs de jeu de données.

Les analyses de jeu de données dépendent des services Azure suivants.

Service Azure Description
Dataset La dérive utilise les jeux de données Machine Learning pour récupérer les données d’apprentissage et comparer les données pour la formation du modèle. Le profil de génération des données est utilisé pour générer certaines des mesures rapportées telles que min, max, valeurs distinctes, comptage des valeurs distinctes.
Pipeline et calcul Azureml La tâche de calcul de dérive est hébergée dans le pipeline azureml. La tâche est déclenchée à la demande ou par planification pour s’exécuter sur un calcul configuré au moment de la création de l’analyse de dérive.
Application Insights La dérive émet des mesures pour Application Insights appartenant à l’espace de travail Machine Learning.
Stockage Blob Azure La dérive émet des métriques au format json vers le stockage d’objets blob Azure.

Jeux de données de référence et cibles

Vous surveillez les jeux de données Azure Machine Learning pour la dérive des données. Lorsque vous créez une analyse de jeu de données, vous référencez votre :

  • Jeu de données de base (généralement le jeu de données d’apprentissage d’un modèle).
  • Jeu de données cible (généralement constitué de données d’entrée de modèle) est comparé à votre jeu de données de référence au fil du temps. Cette comparaison signifie que votre jeu de données cible doit comporter une colonne d’horodatage (timestamp).

Le moniteur compare les jeux de données de base et cibles.

Créer un jeu de données cible

Le jeu de données cible doit avoir la caractéristique timeseries définie sur cette valeur en spécifiant la colonne timestamp à partir d’une colonne de données ou d’une colonne virtuelle dérivée du modèle de chemin d’accès des fichiers. Créez un jeu de données avec timestamp en utilisant le SDK Python ou Azure Machine Learning Studio. Une colonne représentant un « timestamp » doit être spécifiée pour ajouter une caractéristique timeseries au jeu de données. Si vos données sont partitionnées dans une structure de dossiers avec des informations temporelles, telles que « {yyyyyy/MM/dd} », vous pouvez créer une colonne virtuelle via le paramètre de modèle de chemin d’accès et la définir comme « timestamp de partition » afin de mettre l’accent sur les séries temporelles.

Dans la classe Dataset, la méthode with_timestamp_columns() définit la colonne timestamp du jeu de données.

from azureml.core import Workspace, Dataset, Datastore

# get workspace object
ws = Workspace.from_config()

# get datastore object 
dstore = Datastore.get(ws, 'your datastore name')

# specify datastore paths
dstore_paths = [(dstore, 'weather/*/*/*/*/data.parquet')]

# specify partition format
partition_format = 'weather/{state}/{date:yyyy/MM/dd}/data.parquet'

# create the Tabular dataset with 'state' and 'date' as virtual columns 
dset = Dataset.Tabular.from_parquet_files(path=dstore_paths, partition_format=partition_format)

# assign the timestamp attribute to a real or virtual column in the dataset
dset = dset.with_timestamp_columns('date')

# register the dataset as the target dataset
dset = dset.register(ws, 'target')

Conseil

Pour obtenir un exemple complet d’utilisation de la caractéristique timeseries de jeux de données, consultez l’exemple de notebook ou la documentation du SDK des jeux de données.

Créer des analyses de jeu de données

Créer des analyses de jeu de données pour détecter et alerter la dérive des données sur un nouveau jeu de données. Pour ce faire, vous pouvez utiliser le SDK Python ou Azure Machine Learning Studio.

Pour plus d’informations, consultez la documentation de référence du kit de développement logiciel (SDK) python sur la dérive des données.

Voici un exemple de création d’un moniteur analyse de jeu de données à l’aide du SDK Python

from azureml.core import Workspace, Dataset
from azureml.datadrift import DataDriftDetector
from datetime import datetime

# get the workspace object
ws = Workspace.from_config()

# get the target dataset
dset = Dataset.get_by_name(ws, 'target')

# set the baseline dataset
baseline = target.time_before(datetime(2019, 2, 1))

# set up feature list
features = ['latitude', 'longitude', 'elevation', 'windAngle', 'windSpeed', 'temperature', 'snowDepth', 'stationName', 'countryOrRegion']

# set up data drift detector
monitor = DataDriftDetector.create_from_datasets(ws, 'drift-monitor', baseline, target, 
                                                      compute_target='cpu-cluster', 
                                                      frequency='Week', 
                                                      feature_list=None, 
                                                      drift_threshold=.6, 
                                                      latency=24)

# get data drift detector by name
monitor = DataDriftDetector.get_by_name(ws, 'drift-monitor')

# update data drift detector
monitor = monitor.update(feature_list=features)

# run a backfill for January through May
backfill1 = monitor.backfill(datetime(2019, 1, 1), datetime(2019, 5, 1))

# run a backfill for May through today
backfill1 = monitor.backfill(datetime(2019, 5, 1), datetime.today())

# disable the pipeline schedule for the data drift detector
monitor = monitor.disable_schedule()

# enable the pipeline schedule for the data drift detector
monitor = monitor.enable_schedule()

Conseil

Pour obtenir un exemple complet de configuration d’un jeu de données et d’un détecteur de dérive de données timeseries, consultez notre exemple de notebook.

Comprendre les résultats de la dérive des données

Cette section vous montre les résultats de la surveillance d’un jeu de données, qui se trouvent dans la page Jeux de données / Analyseurs de jeu de données dans Azure Studio. Vous pouvez mettre à jour les paramètres et analyser les données existantes pour une période spécifique sur cette page.

Commencez par des insights de haut niveau sur l'ampleur de la dérive des données et un aperçu des caractéristiques à étudier plus en détail.

Vue d’ensemble de la dérive

Métrique Description
Ampleur de la dérive de données Pourcentage entre la ligne de base et le jeu de données cible au fil du temps. Comprise entre 0 et 100, 0, où 0 indique des jeux de données identiques et 100 indique que la fonctionnalité de dérive des données Azure Machine Learning peut distinguer complètement les deux jeux de données. Le bruit est pris en compte dans le calcul du pourcentage de précision en raison des techniques Machine Learning utilisées pour cette amplitude.
Caractéristiques ayant le plus dérivé Liste les caractéristiques du jeu de données présentant la plus forte dérive et contribuant le plus à la métrique d'amplitude de la dérive. En raison de l’évolution de la covariable, la distribution sous-jacente d’une fonctionnalité n’a pas nécessairement besoin d’être modifiée pour avoir une importance relativement élevée.
Seuil L’amplitude de la dérive des données au-delà du seuil défini déclenchera des alertes. Il est possible de configurer cette analyse de deux manières.

Tendance de l'amplitude de la dérive

Découvrez comment le jeu de données diffère du jeu de données cible au cours de la période spécifiée. Plus on se rapproche des 100 %, plus les deux jeux de données sont différents.

Tendance de l'amplitude de la dérive

Amplitude de la dérive par caractéristiques

Cette section contient un aperçu de la modification de la distribution de l'élément sélectionné, ainsi que d'autres statistiques, au fil du temps.

Le jeu de données cible est également profilé au fil du temps. La distance statistique entre la distribution de ligne de base de chaque fonctionnalité est comparée au fil du jeu de données cible. Conceptuellement, cela est similaire à l’amplitude de la dérive des données. Toutefois, cette distance statistique concerne une fonctionnalité individuelle plutôt que toutes les fonctionnalités. Les valeurs minimum, maximum et moyenne sont également disponibles.

Dans Azure Machine Learning Studio, cliquez sur une barre dans le graphique pour afficher les détails de niveau de fonctionnalité de cette date. Par défaut, il affiche la distribution du jeu de données de référence et la distribution de la même caractéristique issue de la dernière exécution.

Amplitude de la dérive par caractéristiques

Ces métriques peuvent également être récupérées dans le SDK Python par le biais de la méthode get_metrics() sur un objet DataDriftDetector.

Détails de la caractéristique

Enfin, faites défiler l’écran pour afficher les détails de chaque fonctionnalité. Utilisez les listes déroulantes au-dessus du graphique pour sélectionner la fonctionnalité, puis sélectionnez la métrique que vous souhaitez afficher.

Graphique des fonctionnalités numériques et comparaison

Les mesures dans le graphique dépendent du type de fonctionnalité.

  • Caractéristiques numériques

    Métrique Description
    Distance Wasserstein Quantité minimale de travail nécessaire à la transformation de la distribution de référence en distribution cible.
    Valeur moyenne Valeur moyenne de la caractéristique.
    Valeur minimale Valeur minimale de la caractéristique.
    Valeur maximale Valeur maximale de la caractéristique.
  • Caractéristiques par catégorie

    Métrique Description
    Distance euclidienne Calculée pour les colonnes catégorielles.  La distance euclidienne est calculée sur deux vecteurs, générés à partir de la distribution empirique de la même colonne catégorielle à partir de deux jeux de données.  0 indique qu’il n’y a aucune différence dans les distributions empiriques.   Plus la valeur s’éloigne de 0, plus la colonne a dérivé.  Les tendances peuvent être observées à partir d’un tracé de série chronologique de cette mesure et peuvent être utiles pour dévoiler une fonction de dérive.
    Valeurs uniques Nombre de valeurs uniques (cardinalité) de la caractéristique.

Sur ce graphique, sélectionnez une seule date pour comparer la répartition des caractéristiques entre la cible et cette date pour la caractéristique affichée. Pour les caractéristiques numériques, cela montre deux distributions de probabilité. Si la fonctionnalité est numérique, un graphique à barres est affiché.

Sélectionner une date à comparer à la cible

Métriques, alertes et événements

Les métriques peuvent être interrogées dans la ressource Azure Application Insights associée à votre espace de travail Machine Learning, Vous avez accès à toutes les fonctionnalités d’Application Insights, notamment la configuration de règles d’alerte personnalisées et de groupes d’actions pour déclencher une action, comme une notification E-mail/SMS/Push/Voix ou une fonction Azure. Pour plus d’informations, reportez-vous à la documentation complète d’Application Insights.

Pour commencer, accédez au Portail Azure et sélectionnez la page Vue d’ensemble de votre espace de travail. La ressource Application Insights associée se trouve à l’extrême droite :

Vue d’ensemble du portail Azure

Sélectionnez Journaux (analytique) sous Supervision dans le volet gauche :

Vue d’ensemble d’Application Insights

Les métriques du superviseur de jeu de données sont stockées en tant que customMetrics. Vous pouvez écrire et exécuter une requête après avoir configuré un moniteur de jeu de données pour les visualiser :

Requête Log Analytics

Après avoir identifié les métriques pour configurer des règles d’alerte, créez une règle d’alerte :

Nouvelle règle d’alerte

Vous pouvez utiliser un groupe d’actions existant ou en créer un pour définir l’action à entreprendre quand les conditions définies sont remplies :

Nouveau groupe d’actions

Dépannage

Limitations et problèmes connus des superviseurs de dérive de données :

  • L’intervalle de temps lors de l’analyse des données d’historique est limité à 31 intervalles du paramètre de fréquence du moniteur.

  • Limitation à 200 caractéristiques sauf si aucune liste de caractéristiques n’est spécifiée (toutes les caractéristiques sont utilisées).

  • La taille de calcul doit être suffisamment grande pour gérer les données.

  • Vérifiez que votre jeu de données contient des données comprises entre la date de début et la date de fin pour l’exécution d’un superviseur donné.

  • Les analyses de jeu de données ne fonctionnent que sur les jeux de données qui contiennent 50 lignes ou plus.

  • Dans le jeu de données, les colonnes, ou caractéristiques, sont classées comme catégories ou comme nombres, en fonction des conditions du tableau suivant. Si la caractéristique ne respecte pas ces conditions (par exemple, une colonne de type String avec plus de 100 valeurs uniques), elle est supprimée de notre algorithme de dérive des données, mais elle est toujours profilée.

    Type de caractéristique Type de données Condition Limites
    Par catégorie string, bool, int, float Le nombre de valeurs uniques dans la caractéristique est inférieur à 100 et inférieur à 5 % du nombre de lignes. La valeur null est traitée comme sa propre catégorie.
    Numérique int, float Les valeurs de la caractéristique sont d’un type de données numérique et ne répondent pas aux conditions d’une caractéristique par catégorie. Caractéristique supprimée si moins de 15 % des valeurs ont la valeur null.
  • Si vous avez créé un superviseur de dérive de données, mais que vous ne voyez pas les données sur la page Superviseurs de jeux de données dans Azure Machine Learning Studio, essayez les procédures suivantes.

    1. Vérifiez que vous avez sélectionné la bonne plage de dates en haut de la page.
    2. Sous l’onglet Superviseurs de jeux de données, sélectionnez le lien d’expérience pour vérifier l’état d’exécution. Le lien se trouve tout à droite du tableau.
    3. Si l’exécution s’est correctement déroulée, consultez les journaux des pilotes pour connaître le nombre de métriques qui ont été générées et voir s’il y a des messages d’avertissement. Vous trouverez les journaux des pilotes sous l’onglet Sortie + journaux après avoir cliqué sur une expérience.
  • Si la fonction backfill() du kit de développement logiciel (SDK) ne génère pas le résultat attendu, cela peut être dû à un problème d’authentification. Lorsque vous créez le calcul à transmettre à cette fonction, n’utilisez pas Run.get_context().experiment.workspace.compute_targets. Au lieu de cela, utilisez ServicePrincipalAuthentication comme suit pour créer le calcul que vous transmettez à cette fonction backfill() :

    auth = ServicePrincipalAuthentication(
            tenant_id=tenant_id,
            service_principal_id=app_id,
            service_principal_password=client_secret
            )
    ws = Workspace.get("xxx", auth=auth, subscription_id="xxx", resource_group="xxx")
    compute = ws.compute_targets.get("xxx")
    
  • À partir du collecteur de données du modèle, les données peuvent prendre jusqu’à 10 minutes pour arriver dans votre compte de stockage d’objets blob. Dans un script ou un bloc-notes, attendez 10 minutes pour vérifier que les cellules ci-dessous s’exécutent.

    import time
    time.sleep(600)
    

Étapes suivantes