Monitorizar visualmente o Azure Data Factory

APLICA-SE A: Azure Data Factory Azure Synapse Analytics

Gorjeta

Experimente o Data Factory no Microsoft Fabric, uma solução de análise tudo-em-um para empresas. O Microsoft Fabric abrange tudo, desde a movimentação de dados até ciência de dados, análises em tempo real, business intelligence e relatórios. Saiba como iniciar uma nova avaliação gratuitamente!

Depois de criar e publicar um pipeline no Azure Data Factory, você pode associá-lo a um gatilho ou iniciar manualmente uma execução ad hoc. Você pode monitorar todas as execuções de pipeline nativamente na experiência do usuário do Azure Data Factory. Para abrir a experiência de monitoramento, selecione o bloco Monitor & Manage na folha data factory do portal do Azure. Se você já estiver na UX do ADF, clique no ícone Monitor na barra lateral esquerda.

Por predefinição, todas as execuções da fábrica de dados são exibidas no fuso horário local do browser. Se alterar o fuso horário, todos os campos de data/hora serão atualizados para o selecionado.

Monitorizar execuções de pipeline

A exibição de monitoramento padrão é a lista de execuções de pipeline acionadas no período de tempo selecionado. Pode alterar o intervalo de tempo e filtrar por estado, nome do pipeline ou anotação. Passe o cursor sobre a execução específica do pipeline para obter ações específicas da execução, como a repetição e o relatório de consumo.

Screenshot of list view for monitoring pipeline runs.

A grade de execução do pipeline contém as seguintes colunas:

Nome da coluna Descrição
Nome do Pipeline Nome do gasoduto
Início da Execução Data e hora de início da execução do pipeline (MM/DD/AAAA, HH:MM:SS AM/PM)
Fim da corrida Data e hora de término da execução do pipeline (MM/DD/AAAA, HH:MM:SS AM/PM)
Duration Duração da execução (HH:MM:SS)
Acionada Por O nome do gatilho que iniciou o pipeline
Status Falhado, bem-sucedido, em andamento, cancelado ou enfileirado
Anotações Tags filtráveis associadas a um pipeline
Parâmetros Parâmetros para a execução do pipeline (pares nome/valor)
Error Se o pipeline falhou, o erro de execução
Executar Original, Reprise ou Rerun (Mais recente)
o ID da Execução ID da execução do pipeline

Você precisa selecionar manualmente o botão Atualizar para atualizar a lista de pipeline e execução de atividades. A atualização automática não é suportada no momento.

 Screenshot of refresh button.

Para exibir os resultados de uma execução de depuração, selecione a guia Depurar .

Screenshot of the view active debug runs icon.

Monitorização de execuções de atividade

Para obter uma visão detalhada das execuções de atividade individuais de uma execução de pipeline específica, clique no nome do pipeline.

Screenshot of view activity runs.

O modo de exibição de lista mostra execuções de atividade que correspondem a cada execução de pipeline. Passe o cursor sobre a execução da atividade específica para obter informações específicas da execução, como a entrada JSON, a saída JSON e experiências detalhadas de monitoramento específico da atividade.

Screenshot of information about SalesAnalyticsMLPipeline, followed by a list of activity runs.

Nome da coluna Descrição
Nome da Atividade Nome da atividade dentro do pipeline
Tipo de Atividade Tipo de atividade, como Copy, ExecuteDataFlow ou AzureMLExecutePipeline
Ações Ícones que permitem ver informações de entrada JSON, informações de saída JSON ou experiências detalhadas de monitoramento específico da atividade
Início da Execução Data e hora de início da execução da atividade (MM/DD/AAAA, HH:MM:SS AM/PM)
Duration Duração da execução (HH:MM:SS)
Status Falhado, bem-sucedido, em andamento ou cancelado
Runtime de Integração Em qual tempo de execução de integração a atividade foi executada
Propriedades do Utilizador Propriedades definidas pelo usuário da atividade
Error Se a atividade falhou, o erro de execução
o ID da Execução ID da atividade executada

Se uma atividade falhou, você pode ver a mensagem de erro detalhada clicando no ícone na coluna de erro.

Screenshot of a notification with error details including error code, failure type, and error details.

Promover as propriedades do utilizador a monitorizar

Promova qualquer propriedade de atividade de pipeline como uma propriedade do utilizador para se tornar numa entidade que possa monitorizar. Por exemplo, pode promover as propriedades de Origem e Destino da atividade de cópia no pipeline como propriedades do utilizador.

Nota

Você só pode promover até cinco propriedades de atividade de pipeline como propriedades de usuário.

Screenshot of create user properties.

Depois de criar as propriedades do usuário, você pode monitorá-las nas exibições de lista de monitoramento.

Screenshot of add columns for user properties to the activity runs list.

Se a origem da atividade de cópia for um nome de tabela, você poderá monitorar o nome da tabela de origem como uma coluna no modo de exibição de lista para execuções de atividade.

Screenshot of activity runs list with columns for user properties.

Executar novamente os pipelines e as atividades

O comportamento de repetição das atividades de contêiner é o seguinte:

  • Wait- A atividade se comportará como antes.
  • Set Variable - A atividade se comportará como antes.
  • Filter - A atividade se comportará como antes.
  • Until A atividade avaliará a expressão e gerará um ciclo até que a condição seja satisfeita. As atividades internas ainda podem ser ignoradas com base nas regras da nova execução.
  • Foreach A atividade gerará sempre um ciclo nos itens que recebe. As atividades internas ainda podem ser ignoradas com base nas regras da nova execução.
  • If and switch - As condições serão sempre avaliadas. Todas as atividades internas serão avaliadas. As atividades internas ainda podem ser ignoradas com base nas regras de reexecução, mas cidades como Executar Pipeline serão executadas novamente.
  • Execute pipeline activity - O pipeline filho será acionado, mas todas as atividades no pipeline filho ainda podem ser ignoradas com base nas regras de reexecução.

Para executar novamente um pipeline que já foi executado desde o início, passe o mouse sobre a execução específica do pipeline e selecione Executar novamente. Se você selecionar vários pipelines, poderá usar o botão Executar novamente para executá-los todos.

Screenshot of rerun a pipeline.

Se você deseja executar novamente a partir de um ponto específico, você pode fazê-lo a partir da visualização de execuções de atividade. Selecione a atividade a partir da qual deseja começar e selecione Repetir a partir da atividade.

Screenshot of rerun an activity run.

Você também pode executar novamente um pipeline e alterar os parâmetros. Selecione o botão Novos parâmetros para alterar os parâmetros.

Screenshot of rerun an activity run with new parameters.

Nota

A reexecução de um pipeline com novos parâmetros será considerada uma nova execução de pipeline, portanto, não será exibida sob os agrupamentos de repetição para uma execução de pipeline.

Executar novamente a partir da atividade com falha

Se uma atividade falhar, exceder o limite de tempo ou for cancelada, poderá voltar a executar o pipeline a partir dessa atividade com falha ao selecionar Executar novamente.

Screenshot of rerun failed activity.

Ver o histórico de novas execuções

Pode ver o histórico de novas execuções para todas as execuções de pipeline na vista da lista.

Screenshot of view history.

Você também pode exibir o histórico de reexecução de uma execução de pipeline específica.

Screenshot of view history for a pipeline run.

Monitorizar o consumo

Você pode ver os recursos consumidos por um pipeline executado clicando no ícone de consumo ao lado da execução.

Screenshot that shows where you can see the resources consumed by a pipeline.

Clicar no ícone abre um relatório de consumo de recursos usados por essa execução de pipeline.

Screenshot of monitor consumption.

Você pode conectar esses valores à calculadora de preços do Azure para estimar o custo da execução do pipeline. Para obter mais informações sobre os preços do Azure Data Factory, consulte Noções básicas sobre preços.

Nota

Esses valores retornados pela calculadora de preços são uma estimativa. Ele não reflete o valor exato que você será cobrado pelo Azure Data Factory

Visualizações de Gantt

Um gráfico Gantt é uma vista que permite ver o histórico de execuções ao longo de um intervalo de tempo. Ao mudar para uma Vista Gantt, verá todas as execuções de pipeline agrupadas pelo nome apresentadas como barras relativamente ao tempo que a execução demorou. Você também pode agrupar por anotações/tags que criou em seu pipeline. A vista Gantt também está disponível ao nível da execução da atividade.

Screenshot of an example of a Gantt chart.

O comprimento da barra informa a duração da tubulação. Você também pode selecionar a barra para ver mais detalhes.

Screenshot of a Gantt chart duration.

Alertas

Pode criar alertas sobre métricas suportadas no Data Factory. Selecione Monitorar>alertas e métricas na página de monitoramento do Data Factory para começar.

Screenshot of the Data factory Monitor page.

Para uma introdução de sete minutos e demonstração desse recurso, assista ao seguinte vídeo:

Criar alertas

  1. Selecione Nova regra de alerta para criar um novo alerta.

    Screenshot of New Alert Rule button.

  2. Especifique o nome da regra e selecione a gravidade do alerta.

    Screenshot of boxes for rule name and severity.

  3. Selecione os critérios de alerta.

    Screenshot of box for target criteria.

    Screenshot that shows where you select one metric to set up the alert condition.

    Screenshot of list of criteria.

    Você pode criar alertas em várias métricas, incluindo aquelas para contagem/tamanho de entidade do ADF, execuções de atividade/pipeline/gatilho, utilização/memória/contagem de nós/fila da CPU do Integration Runtime (IR), bem como para execuções de pacotes SSIS e operações start/stop do SSIS IR.

  4. Configure a lógica de alerta. Você pode criar um alerta para a métrica selecionada para todos os pipelines e atividades correspondentes. Você também pode selecionar um tipo de atividade específico, nome da atividade, nome do pipeline ou tipo de falha.

    Screenshot of options for configuring alert logic.

  5. Configure notificações por e-mail, SMS, push e voz para o alerta. Crie um grupo de ações ou escolha um grupo existente para as notificações de alerta.

    Screenshot of options for configuring notifications.

    Screenshot of options for adding a notification.

  6. Crie a regra de alerta.

    Screenshot of options for creating an alert rule.

Para saber mais sobre como monitorar e gerenciar pipelines, consulte o artigo Monitorar e gerenciar pipelines programaticamente .