Azure Data Explorer 대한 Event Hubs 데이터 연결 만들기

Azure Data Explorer 빅 데이터 스트리밍 플랫폼 및 이벤트 수집 서비스인 Event Hubs에서 수집을 제공합니다. Event Hubs에서는 초당 수백만 개의 이벤트를 거의 실시간으로 처리할 수 있습니다.

이 문서에서는 이벤트 허브에 연결하고 Azure Data Explorer 데이터를 수집합니다. Event Hubs에서 수집에 대한 개요는 데이터 연결 Azure Event Hubs 참조하세요.

사전 요구 사항

• Azure 구독 평가판 Azure 계정을 만듭니다.
• Azure Data Explorer 클러스터 및 데이터베이스. 클러스터 및 데이터베이스를 만듭니다.
• 대상 테이블입니다. 테이블을 만들 거나 기존 테이블을 사용합니다.
• 테이블에 대한 수집 매핑 입니다.
• 수집할 데이터가 있는 이벤트 허브 입니다.

이벤트 허브 데이터 연결 만들기

이 섹션에서는 이벤트 허브와 Azure Data Explorer 테이블 간에 연결을 설정합니다. 이 연결이 있는 한 데이터는 이벤트 허브에서 대상 테이블로 전송됩니다. 이벤트 허브가 다른 리소스 또는 구독으로 이동된 경우 연결을 업데이트하거나 다시 만들어야 합니다.

포털

1. Azure Portal 클러스터로 이동하여 데이터베이스를 선택합니다. 그런 다음 대상 테이블이 포함된 데이터베이스를 선택합니다.

   

2. 왼쪽 메뉴에서 데이터 수집을 선택합니다. 그런 다음, 위쪽 표시줄에서 데이터 연결 추가를 선택합니다.

3. 다음 정보로 양식을 작성한 다음, 만들기를 선택합니다.

   설정	제안 값	필드 설명
   데이터 연결 이름	test-hub-connection	Azure 데이터 탐색기에서 만들 연결의 이름입니다.
   구독		이벤트 허브 리소스가 있는 구독 ID입니다.
   이벤트 허브 네임스페이스	고유한 네임스페이스 이름	앞에서 선택한 네임스페이스를 식별하는 이름입니다.
   이벤트 허브	test-hub	앞에서 만든 이벤트 허브입니다.
   소비자 그룹	test-group	앞에서 만든 이벤트 허브에 정의된 소비자 그룹입니다.
   이벤트 시스템 속성	관련 속성 선택	이벤트 허브 시스템 속성. 이벤트 메시지당 여러 레코드가 있는 경우 시스템 속성이 첫 번째 레코드에 추가됩니다. 시스템 속성을 추가할 때 선택한 속성을 포함하도록 테이블 스키마를 생성하거나 업데이트하고 매핑합니다.
   압축	없음	이벤트 허브 메시지 페이로드의 압축 형식입니다. 지원되는 압축 형식: ‘없음, Gzip’.
   관리 ID(권장)	시스템 할당	Data Explorer 클러스터에서 이벤트 허브를 읽기 위한 액세스에 사용하는 관리 ID입니다. 관리 ID를 사용하여 이벤트 허브에 대한 액세스를 제어하는 것이 좋습니다. 고: 데이터 연결이 생성될 때: * 시스템 할당 ID가 없으면 자동으로 만들어집니다. * 관리 ID는 Azure Event Hubs 데이터 수신기 역할이 자동으로 할당되며 Data Explorer 클러스터에 추가됩니다. 역할이 할당되었고 ID가 클러스터에 추가되었는지 확인하는 것이 좋습니다.

   참고

   관리 ID를 사용하지 않는 기존 데이터 연결이 있는 경우 관리 ID를 사용하도록 업데이트하는 것이 좋습니다.

마법사

다음 단계에서는 Azure Data Explorer 웹 UI의 수집 마법사를 통해 이벤트 허브 연결을 만드는 방법에 대해 설명합니다.

참고

• 마법사를 사용하려면 데이터베이스 사용자 이상의 권한이 있어야 합니다.
• 공용 액세스 없이 클러스터와 스토리지 계정 간에 액세스를 사용하도록 설정하려면 관리형 프라이빗 엔드포인트 만들기를 참조하세요.
• 클러스터 및 이벤트 허브는 동일한 테넌트와 연결되어야 합니다. 그렇지 않은 경우 C# 또는 Python과 같은 SDK 옵션 중 하나를 사용합니다.

1. Azure Data Explorer 웹 UI의 데이터탭에서이벤트 허브 카드 데이터 수집에서 수집을 선택합니다.

   

2. 대상 탭이 선택된 상태에서 데이터 수집 창이 열립니다. 클러스터 및 데이터베이스 필드는 자동으로 채워집니다. 드롭다운 메뉴에서 다른 클러스터 또는 데이터베이스를 선택할 수 있습니다.

3. 표에서 새 테이블을 선택하고 새 테이블의 이름을 입력합니다. 또는 기존 테이블을 사용합니다.

4. 다음: 원본을 선택합니다.

5. 원본 유형에서 Event Hub를 선택합니다.

6. 데이터 연결에서 다음 필드를 입력하고 다음: 스키마를 선택합니다.

   설정	제안 값	필드 설명
   구독		이벤트 허브 리소스가 있는 구독 ID입니다.
   이벤트 허브 네임스페이스		네임스페이스를 식별하는 이름입니다.
   이벤트 허브		사용하려는 이벤트 허브입니다.
   데이터 연결 이름	TestDataConnection	데이터 연결을 식별하는 이름입니다.
   소비자 그룹		이벤트 허브에 정의된 소비자 그룹입니다.
   압축		이벤트 허브 메시지 페이로드의 압축 형식입니다.
   이벤트 시스템 속성	관련 속성 선택	이벤트 허브 시스템 속성. 이벤트 메시지당 여러 레코드가 있는 경우 시스템 속성이 첫 번째 레코드에 추가됩니다. 시스템 속성을 추가할 때 선택한 속성을 포함하도록 테이블 스키마를 생성하거나 업데이트하고 매핑합니다.
   이벤트 검색 시작 날짜	UTC(협정 세계시)	데이터 연결은 이벤트 검색 시작 날짜 이후에 생성된 기존 Event Hubs 이벤트를 검색합니다. Event Hubs의 보존 기간에 의해 보존된 이벤트만 검색할 수 있습니다. 이벤트 검색 시작 날짜를 지정하지 않으면 기본 시간은 데이터 연결이 만들어진 시간입니다.

7. 수집 정책을 설정합니다. 클러스터 에 대해 스트리밍 을 사용하도록 설정한 경우 스트리밍 수집을 선택할 수 있습니다. 클러스터에 대해 스트리밍을 사용하도록 설정하지 않은 경우 일괄 처리 시간을 설정합니다. Event Hubs의 경우 권장 일괄 처리 시간은 30초입니다.

   

8. 데이터 형식을 선택합니다. CSV 형식 데이터의 경우 첫 번째 레코드를 무시 하여 파일의 제목 행을 무시합니다. JSON 형식 데이터의 경우 데이터 형식 오류 무시를 선택하여 JSON 형식으로 데이터를 수집하거나 선택되지 않은 상태로 두어 데이터를 multijson 형식으로 수집합니다. 중첩 수준을 선택하여 테이블 열 데이터 나누기를 결정합니다.

9. 미리 보기 창에 표시되는 데이터가 완전하지 않은 경우 필요한 모든 데이터 필드가 있는 테이블을 만들기 위해 더 많은 데이터가 필요할 수 있습니다. 다음 명령을 사용하여 이벤트 허브에서 새 데이터를 가져옵니다.

   • 새 데이터 삭제 및 가져오기: 제공된 데이터를 삭제하고 새 이벤트를 검색합니다.
   • 추가 데이터 가져오기: 이미 찾은 이벤트 외에 더 많은 이벤트를 검색합니다.

   참고

   데이터 미리 보기를 보려면 이벤트 허브에서 이벤트를 전송해야 합니다.

10. 완료되면 다음: 요약을 선택합니다.

11. Event Hub에서 설정된 연속 수집 창에서 설정이 성공적으로 완료되면 모든 단계가 녹색 검사 표시로 표시됩니다.

C#

1. Microsoft.Azure.Management.Kusto NuGet 패키지를 설치합니다.

2. 인증에 사용할 Azure AD 애플리케이션 주체를 만듭니다. 디렉터리(테넌트) ID, 애플리케이션 ID 및 클라이언트 암호가 필요합니다.

3. 다음 코드를 실행합니다.

   var tenantId = "xxxxxxxx-xxxxx-xxxx-xxxx-xxxxxxxxx"; //Directory (tenant) ID
   var clientId = "xxxxxxxx-xxxxx-xxxx-xxxx-xxxxxxxxx"; //Application ID
   var clientSecret = "PlaceholderClientSecret"; //Client Secret
   var subscriptionId = "xxxxxxxx-xxxxx-xxxx-xxxx-xxxxxxxxx";
   var authClient = ConfidentialClientApplicationBuilder.Create(clientId)
       .WithAuthority($"https://login.microsoftonline.com/{tenantId}")
       .WithClientSecret(clientSecret)
       .Build();
   var result = authClient.AcquireTokenForClient(new[] { "https://management.core.windows.net/" }).ExecuteAsync().Result;
   var credentials = new TokenCredentials(result.AccessToken, result.TokenType);
   var kustoManagementClient = new KustoManagementClient(credentials) { SubscriptionId = subscriptionId };
   var resourceGroupName = "testrg";
   //The cluster and database that are created as part of the Prerequisites
   var clusterName = "mykustocluster";
   var databaseName = "mykustodatabase";
   var eventHubConnectionName = "myeventhubconnect";
   //The event hub that is created as part of the Prerequisites
   var eventHubResourceId = "/subscriptions/<eventHubSubscriptionId>/resourceGroups/<eventHubResourceGroupName>/providers/Microsoft.EventHub/namespaces/<eventHubNamespaceName>/eventhubs/<eventHubName>";
   var consumerGroup = "$Default";
   var location = "Central US";
   //The table and column mapping are created as part of the Prerequisites
   var tableName = "StormEvents";
   var mappingRuleName = "StormEvents_CSV_Mapping";
   var dataFormat = EventHubDataFormat.CSV;
   var compression = "None";
   var databaseRouting = "Multi";
   var eventHubConnectionData = new EventHubDataConnection(
       eventHubResourceId, consumerGroup,
       location: location, tableName: tableName, mappingRuleName: mappingRuleName,
       dataFormat: dataFormat, compression: compression, databaseRouting: databaseRouting
   );
   await kustoManagementClient.DataConnections.CreateOrUpdateAsync(resourceGroupName, clusterName, databaseName, eventHubConnectionName, eventHubConnectionData);
   

   설정	제안 값	필드 설명
   tenantId	xxxxxxxx-xxxxx-xxxx-xxxx-xxxxxxxxx	테넌트 ID 디렉터리 ID라고도 합니다.
   subscriptionId	xxxxxxxx-xxxxx-xxxx-xxxx-xxxxxxxxx	리소스를 만드는 데 사용하는 구독 ID입니다.
   clientId	xxxxxxxx-xxxxx-xxxx-xxxx-xxxxxxxxx	테넌트의 리소스에 액세스할 수 있는 애플리케이션의 클라이언트 ID입니다.
   clientSecret	PlaceholderClientSecret	테넌트의 리소스에 액세스할 수 있는 애플리케이션의 클라이언트 암호입니다.
   resourceGroupName	testrg	클러스터가 포함된 리소스 그룹의 이름입니다.
   clusterName	mykustocluster	클러스터의 이름입니다.
   databaseName	mykustodatabase	클러스터에 있는 대상 데이터베이스의 이름입니다.
   eventHubConnectionName	myeventhubconnect	원하는 데이터 연결 이름입니다.
   tableName	StormEvents	대상 데이터베이스의 대상 테이블 이름입니다.
   mappingRuleName	StormEvents_CSV_Mapping	대상 테이블과 관련된 열 매핑의 이름입니다.
   dataFormat	csv	메시지의 데이터 형식입니다.
   eventHubResourceId	리소스 ID	수집할 데이터를 보유하는 이벤트 허브의 리소스 ID입니다.
   consumerGroup	$Default	이벤트 허브의 소비자 그룹입니다.
   위치	미국 중부	데이터 연결 리소스의 위치입니다.
   압축	Gzip 또는 없음	데이터 압축 형식입니다.
   databaseRouting	Multi 또는 Single	연결에 대한 데이터베이스 라우팅입니다. 값을 Single로 설정하면 databaseName 설정에 지정된 대로 데이터 연결이 클러스터의 단일 데이터베이스로 라우팅됩니다. 값을 Multi로 설정하면 Database수집 속성을 사용하여 기본 대상 데이터베이스를 재정의할 수 있습니다. 자세한 내용은 이벤트 라우팅을 참조하세요.

Python

1. 필요한 라이브러리를 설치합니다.

   pip install azure-common
   pip install azure-mgmt-kusto
   

2. 인증에 사용할 Azure AD 애플리케이션 주체를 만듭니다. 디렉터리(테넌트) ID, 애플리케이션 ID 및 클라이언트 암호가 필요합니다.

3. 다음 코드를 실행합니다.

   from azure.mgmt.kusto import KustoManagementClient
   from azure.mgmt.kusto.models import EventHubDataConnection
   from azure.identity import ClientSecretCredential
   
   #Directory (tenant) ID
   tenant_id = "xxxxxxxx-xxxxx-xxxx-xxxx-xxxxxxxxx"
   #Application ID
   client_id = "xxxxxxxx-xxxxx-xxxx-xxxx-xxxxxxxxx"
   #Client Secret
   client_secret = "xxxxxxxxxxxxxx"
   subscription_id = "xxxxxxxx-xxxxx-xxxx-xxxx-xxxxxxxxx"
   credentials = ServicePrincipalCredentials(
           client_id=client_id,
           secret=client_secret,
           tenant=tenant_id
       )
   kusto_management_client = KustoManagementClient(credentials, subscription_id)
   
   resource_group_name = "myresourcegroup"
   #The cluster and database that are created as part of the Prerequisites
   cluster_name = "mycluster"
   database_name = "mydatabase"
   data_connection_name = "myeventhubconnect"
   #The event hub that is created as part of the Prerequisites
   event_hub_resource_id = "/subscriptions/xxxxxxxx-xxxxx-xxxx-xxxx-xxxxxxxxx/resourceGroups/myresourcegroup/providers/Microsoft.EventHub/namespaces/myeventhubnamespace/eventhubs/myeventhub"";
   consumer_group = "$Default"
   location = "Central US"
   #The table and column mapping that are created as part of the Prerequisites
   table_name = "mytable"
   mapping_rule_name = "mytablemappingrule"
   data_format = "csv"
   database_routing = "Multi"
   #Returns an instance of LROPoller, check https://learn.microsoft.com/python/api/msrest/msrest.polling.lropoller?view=azure-python
   poller = kusto_management_client.data_connections.create_or_update(
               resource_group_name=resource_group_name,
               cluster_name=cluster_name,
               database_name=database_name,
               data_connection_name=data_connection_name,
               parameters=EventHubDataConnection(
                   event_hub_resource_id=event_hub_resource_id,
                   consumer_group=consumer_group,
                   location=location,
                   table_name=table_name,
                   mapping_rule_name=mapping_rule_name,
                   data_format=data_format,
                   database_routing=database_routing
               )
           )
   poller.wait()
   print(poller.result())
   

   설정	제안 값	필드 설명
   tenant_id	xxxxxxxx-xxxxx-xxxx-xxxx-xxxxxxxxx	테넌트 ID 디렉터리 ID라고도 합니다.
   subscriptionId	xxxxxxxx-xxxxx-xxxx-xxxx-xxxxxxxxx	리소스를 만드는 데 사용하는 구독 ID입니다.
   client_id	xxxxxxxx-xxxxx-xxxx-xxxx-xxxxxxxxx	테넌트의 리소스에 액세스할 수 있는 애플리케이션의 클라이언트 ID입니다.
   client_secret	xxxxxxxxxxxxxx	테넌트의 리소스에 액세스할 수 있는 애플리케이션의 클라이언트 암호입니다.
   resource_group_name	myresourcegroup	클러스터가 포함된 리소스 그룹의 이름입니다.
   cluster_name	mycluster	클러스터의 이름입니다.
   database_name	mydatabase	클러스터에 있는 대상 데이터베이스의 이름입니다.
   data_connection_name	myeventhubconnect	원하는 데이터 연결 이름입니다.
   table_name	mytable	대상 데이터베이스의 대상 테이블 이름입니다.
   mapping_rule_name	mytablemappingrule	대상 테이블과 관련된 열 매핑의 이름입니다.
   data_format	csv	메시지의 데이터 형식입니다.
   event_hub_resource_id	리소스 ID	수집할 데이터를 보유하는 이벤트 허브의 리소스 ID입니다.
   consumer_group	$Default	이벤트 허브의 소비자 그룹입니다.
   위치	미국 중부	데이터 연결 리소스의 위치입니다.
   databaseRouting	Multi 또는 Single	연결에 대한 데이터베이스 라우팅입니다. 값을 Single로 설정하면 데이터베이스 이름 설정에 지정된 대로 데이터 연결이 클러스터의 단일 데이터베이스 로 라우팅됩니다. 값을 Multi로 설정하면 Database수집 속성을 사용하여 기본 대상 데이터베이스를 재정의할 수 있습니다. 자세한 내용은 이벤트 라우팅을 참조하세요.

ARM 템플릿

다음 예에서는 Event Hubs 데이터 연결을 추가하기 위한 Azure Resource Manager 템플릿을 보여 줍니다. 양식을 사용하여 Azure Portal에서 템플릿을 편집 및 배포할 수 있습니다.

{
    "$schema": "https://schema.management.azure.com/schemas/2015-01-01/deploymentTemplate.json#",
    "contentVersion": "1.0.0.0",
    "parameters": {
        "namespaces_eventhubns_name": {
            "type": "string",
            "defaultValue": "eventhubns",
            "metadata": {
                "description": "Specifies the Event Hubs Namespace name."
            }
        },
        "EventHubs_eventhubdemo_name": {
            "type": "string",
            "defaultValue": "eventhubdemo",
            "metadata": {
                "description": "Specifies the event hub name."
            }
        },
        "consumergroup_default_name": {
            "type": "string",
            "defaultValue": "$Default",
            "metadata": {
                "description": "Specifies the consumer group of the event hub."
            }
        },
        "Clusters_kustocluster_name": {
            "type": "string",
            "defaultValue": "kustocluster",
            "metadata": {
                "description": "Specifies the name of the cluster"
            }
        },
        "databases_kustodb_name": {
            "type": "string",
            "defaultValue": "kustodb",
            "metadata": {
                "description": "Specifies the name of the database"
            }
        },
        "tables_kustotable_name": {
            "type": "string",
            "defaultValue": "kustotable",
            "metadata": {
                "description": "Specifies the name of the table"
            }
        },
        "mapping_kustomapping_name": {
            "type": "string",
            "defaultValue": "kustomapping",
            "metadata": {
                "description": "Specifies the name of the mapping rule"
            }
        },
        "dataformat_type": {
            "type": "string",
            "defaultValue": "csv",
            "metadata": {
                "description": "Specifies the data format"
            }
        },
        "databaseRouting_type": {
            "type": "string",
            "defaultValue": "Single",
            "metadata": {
                "description": "The database routing for the connection. If you set the value to **Single**, the data connection will be routed to a single database in the cluster as specified in the *databaseName* setting. If you set the value to **Multi**, you can override the default target database using the *Database* EventData property."
            }
        },
        "dataconnections_kustodc_name": {
            "type": "string",
            "defaultValue": "kustodc",
            "metadata": {
                "description": "Name of the data connection to create"
            }
        },
        "subscriptionId": {
            "type": "string",
            "defaultValue": "[subscription().subscriptionId]",
            "metadata": {
                "description": "Specifies the subscriptionId of the event hub"
            }
        },
        "resourceGroup": {
            "type": "string",
            "defaultValue": "[resourceGroup().name]",
            "metadata": {
                "description": "Specifies the resourceGroup of the event hub"
            }
        },
        "location": {
            "type": "string",
            "defaultValue": "[resourceGroup().location]",
            "metadata": {
                "description": "Location for all resources."
            }
        }
    },
    "variables": {
    },
    "resources": [{
            "type": "Microsoft.Kusto/Clusters/Databases/DataConnections",
            "apiVersion": "2022-02-01",
            "name": "[concat(parameters('Clusters_kustocluster_name'), '/', parameters('databases_kustodb_name'), '/', parameters('dataconnections_kustodc_name'))]",
            "location": "[parameters('location')]",
            "kind": "EventHub",
            "properties": {
                "managedIdentityResourceId": "[resourceId('Microsoft.Kusto/clusters', parameters('clusters_kustocluster_name'))]",
                "eventHubResourceId": "[resourceId(parameters('subscriptionId'), parameters('resourceGroup'), 'Microsoft.EventHub/namespaces/eventhubs', parameters('namespaces_eventhubns_name'), parameters('EventHubs_eventhubdemo_name'))]",
                "consumerGroup": "[parameters('consumergroup_default_name')]",
                "tableName": "[parameters('tables_kustotable_name')]",
                "mappingRuleName": "[parameters('mapping_kustomapping_name')]",
                "dataFormat": "[parameters('dataformat_type')]",
                "databaseRouting": "[parameters('databaseRouting_type')]"
            }
        }
    ]
}

이벤트 허브 데이터 연결 제거

포털

Azure Portal 이벤트 허브 연결을 제거하려면 다음을 수행합니다.

1. 클러스터로 이동합니다. 왼쪽 메뉴에서 데이터베이스를 선택합니다. 그런 다음 대상 테이블이 포함된 데이터베이스를 선택합니다.
2. 왼쪽 메뉴에서 데이터 연결을 선택합니다. 그런 다음, 관련 이벤트 허브 데이터 연결 옆에 있는 확인란을 선택합니다.
3. 위쪽 메뉴 모음에서 삭제를 선택합니다.

마법사

마지막 마법사 페이지에서 데이터 연결 관리 카드 선택합니다. 마법사를 이미 종료한 경우 이전 탭에서 설명한 대로 Azure Portal 통해 데이터 연결을 제거합니다.

C#

이벤트 허브 연결을 제거하려면 다음 명령을 실행합니다.

kustoManagementClient.DataConnections.Delete(resourceGroupName, clusterName, databaseName, dataConnectionName);

Python

이벤트 허브 연결을 제거하려면 다음 명령을 실행합니다.

kusto_management_client.data_connections.delete(resource_group_name=resource_group_name, cluster_name=kusto_cluster_name, database_name=kusto_database_name, data_connection_name=kusto_data_connection_name)

다음 단계

• Azure Data Explorer에서 데이터 쿼리