Övervaka Azure Data Factory

I den här artikeln beskrivs:

• De typer av övervakningsdata som du kan samla in för den här tjänsten.
• Sätt att analysera dessa data.

Kommentar

Om du redan är bekant med den här tjänsten och/eller Azure Monitor och bara vill veta hur du analyserar övervakningsdata kan du läsa avsnittet Analysera i slutet av den här artikeln.

När du har viktiga program och affärsprocesser som är beroende av Azure-resurser måste du övervaka och få aviseringar för systemet. Azure Monitor-tjänsten samlar in och aggregerar mått och loggar från varje komponent i systemet. Azure Monitor ger dig en översikt över tillgänglighet, prestanda och motståndskraft och meddelar dig om problem. Du kan använda Azure-portalen, PowerShell, Azure CLI, REST API eller klientbibliotek för att konfigurera och visa övervakningsdata.

• Mer information om Azure Monitor finns i Översikt över Azure Monitor.
• Mer information om hur du övervakar Azure-resurser i allmänhet finns i Övervaka Azure-resurser med Azure Monitor.

Övervakningsmetoder

Det finns flera sätt att övervaka Azure Data Factory.

Azure Data Factory Studio

Du kan övervaka alla dina Data Factory-pipelinekörningar internt i Azure Data Factory Studio. Om du vill öppna övervakningsmiljön väljer du Starta Studio på sidan Data Factory i Azure-portalen och i Azure Data Factory Studio väljer du Övervaka på den vänstra menyn.

Mer information om övervakning i Azure Data Factory Studio finns i följande artiklar:

• Övervaka Azure-datafabriker visuellt
• Övervakning av dataflöde
• Övervaka kopieringsaktivitet
• Sessionslogg i en aktiviteten Kopiera

Azure Portal

Du kan också övervaka Azure Data Factory direkt från Azure-portalen. Flera måttdiagram visas på översiktssidan för Azure-portalen för datafabriken. På den vänstra sidomenyn kan du komma åt Azure-aktivitetsloggen eller välja Aviseringar, mått, diagnostikinställningar eller loggar i avsnittet Övervakning.

Övervaka programmatiskt

Du kan övervaka Data Factory-pipelines programmatiskt med hjälp av .NET, PowerShell, Python eller REST-API:et. Mer information finns i följande artiklar:

• Övervaka Azure Data Factory programmatiskt
• Konfigurera diagnostikloggar via Rest-API:et för Azure Monitor

Resurstyper

Azure använder begreppet resurstyper och ID:t för att identifiera allt i en prenumeration. Azure Monitor organiserar på liknande sätt kärnövervakningsdata i mått och loggar baserat på resurstyper, även kallade namnområden. Olika mått och loggar är tillgängliga för olika resurstyper. Tjänsten kan vara associerad med mer än en resurstyp.

Resurstyper ingår också i resurs-ID:t för varje resurs som körs i Azure. En resurstyp för en virtuell dator är Microsoft.Compute/virtualMachinestill exempel . En lista över tjänster och deras associerade resurstyper finns i Resursprovidrar.

Mer information om resurstyperna för Azure Data Factory finns i Referens för Data Factory-övervakning av data.

Datalagring

För Azure Monitor:

• Måttdata lagras i Azure Monitor-måttdatabasen.
• Loggdata lagras i Azure Monitor-loggarkivet. Log Analytics är ett verktyg i Azure-portalen som kan köra frågor mot det här arkivet.
• Azure-aktivitetsloggen är ett separat arkiv med ett eget gränssnitt i Azure-portalen.

Du kan också dirigera mått- och aktivitetsloggdata till Azure Monitor-loggarkivet. Du kan sedan använda Log Analytics för att fråga efter data och korrelera dem med andra loggdata.

Många tjänster kan använda diagnostikinställningar för att skicka mått- och loggdata till andra lagringsplatser utanför Azure Monitor. Exempel är Azure Storage, värdbaserade partnersystem och icke-Azure-partnersystem med hjälp av Event Hubs.

Detaljerad information om hur Azure Monitor lagrar data finns i Azure Monitor-dataplattformen.

Lagra Data Factory-pipelinekörningsdata

Data Factory lagrar pipelinekörningsdata i endast 45 dagar. Använd Azure Monitor för att dirigera diagnostikloggar om du vill behålla data längre.

Dirigera data till Log Analytics om du vill analysera dem med komplexa frågor, skapa anpassade aviseringar eller övervaka över datafabriker. Du kan dirigera data från flera datafabriker till en enda Log Analytics-arbetsyta.

Du kan använda ett lagringskonto eller ett händelsehubbnamnområde som inte finns i prenumerationen på resursen som genererar loggar. Den användare som konfigurerar inställningen måste ha lämplig åtkomst till båda prenumerationerna med rollbaserad åtkomstkontroll (Azure RBAC).

Azure Monitor-plattformsmått

Azure Monitor tillhandahåller plattformsmått för de flesta tjänster. Dessa mått är:

• Individuellt definierad för varje namnområde.
• Lagras i azure monitor-databasen för tidsseriemått.
• Lätt och kan stödja nästan realtidsaviseringar.
• Används för att spåra prestanda för en resurs över tid.

Samling: Azure Monitor samlar in plattformsmått automatiskt. Ingen konfiguration krävs.

Routning: Du kan också vanligtvis dirigera plattformsmått till Azure Monitor-loggar/Log Analytics så att du kan köra frågor mot dem med andra loggdata. Mer information finns i diagnostikinställningen Mått. Information om hur du konfigurerar diagnostikinställningar för en tjänst finns i Skapa diagnostikinställningar i Azure Monitor.

En lista över alla mått som du kan samla in för alla resurser i Azure Monitor finns i Mått som stöds i Azure Monitor.

En lista över tillgängliga mått för Data Factory finns i Data Factory-övervakningsdatareferens.

Azure Monitor-resursloggar

Resursloggar ger insikter om åtgärder som har utförts av en Azure-resurs. Loggar genereras automatiskt, men du måste dirigera dem till Azure Monitor-loggar för att spara eller köra frågor mot dem. Loggar ordnas i kategorier. Ett givet namnområde kan ha flera resursloggkategorier.

Samling: Resursloggar samlas inte in och lagras förrän du skapar en diagnostikinställning och dirigerar loggarna till en eller flera platser. När du skapar en diagnostikinställning anger du vilka kategorier av loggar som ska samlas in. Det finns flera sätt att skapa och underhålla diagnostikinställningar, inklusive Azure-portalen, programmatiskt och via Azure Policy.

Routning: Det föreslagna standardvärdet är att dirigera resursloggar till Azure Monitor-loggar så att du kan köra frågor mot dem med andra loggdata. Andra platser som Azure Storage, Azure Event Hubs och vissa Microsoft-övervakningspartner är också tillgängliga. Mer information finns i Azure-resursloggar och Resursloggmål.

Detaljerad information om hur du samlar in, lagrar och dirigerar resursloggar finns i Diagnostikinställningar i Azure Monitor.

En lista över alla tillgängliga resursloggkategorier i Azure Monitor finns i Resursloggar som stöds i Azure Monitor.

Alla resursloggar i Azure Monitor har samma rubrikfält följt av tjänstspecifika fält. Det vanliga schemat beskrivs i Azure Monitor-resursloggschemat.

• Information om tillgängliga datafabriksresursloggkategorier, deras associerade Log Analytics-tabeller och loggscheman finns i Data Factory-övervakningsdatareferens.

• Information om hur du konfigurerar diagnostikinställningar och en Log Analytics-arbetsyta för att övervaka Data Factory finns i Konfigurera diagnostikinställningar och en arbetsyta.

Azure-aktivitetslogg

Aktivitetsloggen innehåller händelser på prenumerationsnivå som spårar åtgärder för varje Azure-resurs som visas utanför resursen. till exempel att skapa en ny resurs eller starta en virtuell dator.

Samling: Aktivitetslogghändelser genereras automatiskt och samlas in i ett separat arkiv för visning i Azure-portalen.

Routning: Du kan skicka aktivitetsloggdata till Azure Monitor-loggar så att du kan analysera dem tillsammans med andra loggdata. Andra platser som Azure Storage, Azure Event Hubs och vissa Microsoft-övervakningspartner är också tillgängliga. Mer information om hur du dirigerar aktivitetsloggen finns i Översikt över Azure-aktivitetsloggen.

Övervaka integreringskörningar

Integreringskörning är den beräkningsinfrastruktur som Data Factory använder för att tillhandahålla dataintegreringsfunktioner i olika nätverksmiljöer. Data Factory erbjuder flera typer av integreringskörningar:

• Azure integration runtime
• Lokal Integration Runtime
• Integreringskörning för Azure-SQL Server Integration Services (SSIS)
• Apache Airflow Integration Runtime

Azure Monitor samlar in mått och diagnostikloggar för alla typer av integreringskörningar. Detaljerade anvisningar om hur du övervakar integreringskörningar finns i följande artiklar:

• Övervaka en integreringskörning i Azure Data Factory
• Övervaka en integreringskörning i ett hanterat virtuellt nätverk
• Övervaka lokalt installerad integrationskörning i Azure
• Konfigurera lokalt installerad integrationskörning för log analytics-samling
• Övervaka SSIS-åtgärder med Azure Monitor
• Diagnostikloggar och mått för Apache Airflow

Analysera övervakningsdata

Det finns många verktyg för att analysera övervakningsdata.

Azure Monitor-verktyg

Azure Monitor har stöd för följande grundläggande verktyg:

• Metrics Explorer, ett verktyg i Azure-portalen som gör att du kan visa och analysera mått för Azure-resurser. Mer information finns i Analysera mått med Azure Monitor Metrics Explorer.

• Log Analytics, ett verktyg i Azure-portalen som gör att du kan köra frågor mot och analysera loggdata med hjälp av KQL (Kusto Query Language). Mer information finns i Komma igång med loggfrågor i Azure Monitor.

• Aktivitetsloggen, som har ett användargränssnitt i Azure-portalen för visning och grundläggande sökningar. Om du vill göra mer djupgående analys måste du dirigera data till Azure Monitor-loggar och köra mer komplexa frågor i Log Analytics.

Verktyg som möjliggör mer komplex visualisering är:

• Instrumentpaneler som gör att du kan kombinera olika typer av data i ett enda fönster i Azure-portalen.
• Arbetsböcker, anpassningsbara rapporter som du kan skapa i Azure-portalen. Arbetsböcker kan innehålla text-, mått- och loggfrågor.
• Grafana, ett öppet plattformsverktyg som utmärker sig i operativa instrumentpaneler. Du kan använda Grafana för att skapa instrumentpaneler som innehåller data från flera andra källor än Azure Monitor.
• Power BI, en tjänst för affärsanalys som tillhandahåller interaktiva visualiseringar mellan olika datakällor. Du kan konfigurera Power BI för att automatiskt importera loggdata från Azure Monitor för att dra nytta av dessa visualiseringar.

Exportverktyg för Azure Monitor

Du kan hämta data från Azure Monitor till andra verktyg med hjälp av följande metoder:

• Mått: Använd REST-API:et för mått för att extrahera måttdata från Azure Monitor-måttdatabasen. API:et stöder filteruttryck för att förfina de data som hämtas. Mer information finns i Azure Monitor REST API-referens.

• Loggar: Använd REST-API:et eller de associerade klientbiblioteken.

• Ett annat alternativ är dataexporten för arbetsytan.

Information om hur du kommer igång med REST-API:et för Azure Monitor finns i Genomgång av REST API för Azure-övervakning.

Detaljerade anvisningar om hur du konfigurerar diagnostikloggar med hjälp av REST-API :et finns i Konfigurera diagnostikloggar via Rest-API:et för Azure Monitor.

Kusto-frågor

Du kan analysera övervakningsdata i Azure Monitor-loggar/Log Analytics-arkivet med hjälp av Kusto-frågespråket (KQL).

Viktigt!

När du väljer Loggar på tjänstens meny i portalen öppnas Log Analytics med frågeomfånget inställt på den aktuella tjänsten. Det här omfånget innebär att loggfrågor endast innehåller data från den typen av resurs. Om du vill köra en fråga som innehåller data från andra Azure-tjänster väljer du Loggar på Azure Monitor-menyn . Mer information finns i Log query scope and time range in Azure Monitor Log Analytics (Loggfrågeomfång och tidsintervall i Azure Monitor Log Analytics ).

En lista över vanliga frågor för alla tjänster finns i Log Analytics-frågegränssnittet.

Till exempel frågor väljer du Loggar under Övervakning i det vänstra navigeringsfältet på sidan Data Factory i Azure-portalen och väljer sedan fliken Frågor. Här är några exempelfrågor:

PipelineRuns-tillgänglighet: Ger tillgängligheten för pipelinekörningarna.

ADFPipelineRun
| where Status != 'InProgress' and Status != 'Queued'
| where FailureType != 'UserError'
| summarize availability = 100.00 - (100.00*countif(Status != 'Succeeded') / count())  by bin(TimeGenerated, 1h)), _ResourceId
| order by TimeGenerated asc
| render timechart

Aktiviteten kör de 5 främsta felen: Returnerar de fem främsta aktiviteterna som misslyckas med systemfel.

ADFActivityRun 
| where TimeGenerated >= ago(24h)
| where Status != 'InProgress' and Status != 'Queued'
| where FailureType != 'UserError'
| where ActivityName  in (name)
| summarize failureCount = countif(Status != 'Succeeded') by bin(TimeGenerated, 1h), ActivityName
| top 5 by failureCount desc nulls last
| order by TimeGenerated asc
| render timechart

Den senaste statusen för pipelinekörningar: Returnerar den senaste statusen för pipelinekörningar.

ADFPipelineRun
| summarize argmax(TimeGenerated, * ) by RunId, Status, _ResourceId

Aviseringar

Azure Monitor-aviseringar meddelar dig proaktivt när specifika villkor finns i dina övervakningsdata. Med aviseringar kan du identifiera och åtgärda problem i systemet innan kunderna märker dem. Mer information finns i Azure Monitor-aviseringar.

Det finns många källor till vanliga aviseringar för Azure-resurser. Exempel på vanliga aviseringar för Azure-resurser finns i Exempelloggaviseringsfrågor. Webbplatsen Azure Monitor Baseline Alerts (AMBA) innehåller en halvautomatiserad metod för att implementera viktiga plattformsmåttaviseringar, instrumentpaneler och riktlinjer. Webbplatsen gäller för en kontinuerligt expanderande delmängd av Azure-tjänster, inklusive alla tjänster som ingår i Azure Landing Zone (ALZ).

Det gemensamma aviseringsschemat standardiserar förbrukningen av Azure Monitor-aviseringsmeddelanden. Mer information finns i Vanliga aviseringsscheman.

Typer av aviseringar

Du kan avisera om valfritt mått eller loggdatakälla på Azure Monitor-dataplattformen. Det finns många olika typer av aviseringar beroende på vilka tjänster du övervakar och de övervakningsdata som du samlar in. Olika typer av aviseringar har olika fördelar och nackdelar. Mer information finns i Välj rätt övervakningsaviseringstyp.

I följande lista beskrivs de typer av Azure Monitor-aviseringar som du kan skapa:

• Måttaviseringar utvärderar resursmått med jämna mellanrum. Mått kan vara plattformsmått, anpassade mått, loggar från Azure Monitor som konverterats till mått eller Application Insights-mått. Måttaviseringar kan också tillämpa flera villkor och dynamiska tröskelvärden.
• Med loggaviseringar kan användare använda en Log Analytics-fråga för att utvärdera resursloggar med en fördefinierad frekvens.
• Aktivitetsloggaviseringar utlöses när en ny aktivitetslogghändelse inträffar som matchar definierade villkor. Resource Health-aviseringar och Service Health-aviseringar är aktivitetsloggaviseringar som rapporterar om tjänstens och resurshälsan.

Vissa Azure-tjänster stöder även aviseringar om smart identifiering, Prometheus-aviseringar eller rekommenderade aviseringsregler.

För vissa tjänster kan du övervaka i stor skala genom att tillämpa samma måttaviseringsregel på flera resurser av samma typ som finns i samma Azure-region. Enskilda meddelanden skickas för varje övervakad resurs. Information om Azure-tjänster och moln som stöds finns i Övervaka flera resurser med en aviseringsregel.

Aviseringsregler för Data Factory

Om du vill skapa och hantera aviseringar väljer du Aviseringar under Övervakning i det vänstra navigeringsfältet på sidan Data Factory i Azure-portalen.

I följande tabell visas populära aviseringsregler för Data Factory. Det här är bara en rekommenderad lista. Du kan ange aviseringar för alla mått, loggposter eller aktivitetsloggposter som anges i datareferensen för Data Factory-övervakning.

Aviseringstyp	Villkor	beskrivning
Metric	Mått för misslyckade pipelinekörningar	När det totala antalet misslyckade pipelinekörningar är större än 0
Metric	Totalt antal entiteter	När det maximala antalet entiteter är större än 1700000
Metric	Maximalt antal tillåtna entiteter	När den maximala totala fabriksstorleken (GB-enheten) är större än 6

Meddelanden ger proaktiva aviseringar under eller efter körning av en pipeline.

• Skicka ett e-postmeddelande med en Azure Data Factory-pipeline som visar hur du konfigurerar e-postmeddelanden från pipelineaviseringar.
• Skicka meddelanden till en Microsoft Teams-kanal från en Azure Data Factory-pipeline som visar hur du konfigurerar meddelanden från pipelineaviseringar till Microsoft Teams.

Advisor-rekommendationer

För vissa tjänster, om kritiska villkor eller överhängande ändringar inträffar under resursåtgärder, visas en avisering på sidan Tjänstöversikt i portalen. Du hittar mer information och rekommenderade korrigeringar för aviseringen i Advisor-rekommendationer under Övervakning i den vänstra menyn. Under normal drift visas inga advisor-rekommendationer.

Mer information om Azure Advisor finns i Översikt över Azure Advisor.

Relaterat innehåll

• Se Data Factory-referens för övervakning av data för en referens till mått, loggar och andra viktiga värden som skapats för Data Factory.
• Mer information om övervakning av Azure-resurser finns i Övervaka Azure-resurser med Azure Monitor .