Copiar e transformar dados do hive usando o Azure Data FactoryCopy and transform data from Hive using Azure Data Factory

• 11/17/2020
• 7 minutos para o fim da leitura
• • l
  • o
  • c

APLICA-SE A: Azure Data Factory Azure Synapse Analytics

Este artigo descreve como usar a atividade de cópia no Azure Data Factory para copiar dados de e para o Hive.This article outlines how to use the Copy Activity in Azure Data Factory to copy data from Hive. Ele amplia o artigo Visão geral da atividade de cópia que apresenta uma visão geral da atividade de cópia.It builds on the copy activity overview article that presents a general overview of copy activity.

Funcionalidades com suporteSupported capabilities

Este conector do hive tem suporte para as seguintes atividades:This Hive connector is supported for the following activities:

• Atividade de cópia com matriz de fonte/coletor com suporteCopy activity with supported source/sink matrix
• Atividade de pesquisaLookup activity

Você pode copiar dados de um Hive para qualquer armazenamento de dados de coletor com suporte.You can copy data from Hive to any supported sink data store. Para obter uma lista de armazenamentos de dados com suporte como origens/coletores da atividade de cópia, confira a tabela Armazenamentos de dados com suporte.For a list of data stores that are supported as sources/sinks by the copy activity, see the Supported data stores table.

Azure Data Factory fornece um driver interno para habilitar a conectividade, portanto, não é necessário instalar manualmente qualquer driver usando esse conector.Azure Data Factory provides a built-in driver to enable connectivity, therefore you don't need to manually install any driver using this connector.

Pré-requisitosPrerequisites

Se o armazenamento de dados estiver localizado dentro de uma rede local, em uma rede virtual do Azure ou na Amazon Virtual Private Cloud, você precisará configurar um runtime de integração auto-hospedada para se conectar a ele.If your data store is located inside an on-premises network, an Azure virtual network, or Amazon Virtual Private Cloud, you need to configure a self-hosted integration runtime to connect to it.

Por outro lado, se o armazenamento de dados for um serviço de dados de nuvem gerenciado, você poderá usar o Azure Integration Runtime.Alternatively, if your data store is a managed cloud data service, you can use Azure integration runtime. Se o acesso for restrito aos IPs que estão aprovados nas regras de firewall, você poderá adicionar IPs do Azure Integration Runtime à lista de permissões.If the access is restricted to IPs that are approved in the firewall rules, you can add Azure Integration Runtime IPs into the allow list.

Para obter mais informações sobre os mecanismos de segurança de rede e as opções compatíveis com o Data Factory, consulte Estratégias de acesso a dados.For more information about the network security mechanisms and options supported by Data Factory, see Data access strategies.

IntroduçãoGetting started

Para executar a atividade de Cópia com um pipeline, será possível usar as ferramentas ou os SDKs abaixo:To perform the Copy activity with a pipeline, you can use one of the following tools or SDKs:

• A ferramenta Copiar DadosThe Copy Data tool
• O portal do AzureThe Azure portal
• O SDK do .NETThe .NET SDK
• O SDK do PythonThe Python SDK
• PowerShell do AzureAzure PowerShell
• A API RESTThe REST API
• O modelo do Azure Resource ManagerThe Azure Resource Manager template

As seções a seguir fornecem detalhes sobre as propriedades usadas para definir entidades do Data Factory específicas ao conector de Hive.The following sections provide details about properties that are used to define Data Factory entities specific to Hive connector.

Propriedades do serviço vinculadoLinked service properties

As propriedades a seguir têm suporte para o serviço vinculado de Hive:The following properties are supported for Hive linked service:

Exemplo:Example:

{
    "name": "HiveLinkedService",
    "properties": {
        "type": "Hive",
        "typeProperties": {
            "host" : "<cluster>.azurehdinsight.net",
            "port" : "<port>",
            "authenticationType" : "WindowsAzureHDInsightService",
            "username" : "<username>",
            "password": {
                "type": "SecureString",
                "value": "<password>"
            }
        }
    }
}

Propriedades do conjunto de dadosDataset properties

Para obter uma lista completa das seções e propriedades disponíveis para definir os conjuntos de dados, confira o artigo sobre conjuntos de dados.For a full list of sections and properties available for defining datasets, see the datasets article. Esta seção fornece uma lista das propriedades com suporte pelo conjunto de dados de HTTP.This section provides a list of properties supported by Hive dataset.

Para copiar dados de Hive, defina a propriedade type do conjunto de dados como HiveObject.To copy data from Hive, set the type property of the dataset to HiveObject. Há suporte para as seguintes propriedades:The following properties are supported:

ExemploExample

{
    "name": "HiveDataset",
    "properties": {
        "type": "HiveObject",
        "typeProperties": {},
        "schema": [],
        "linkedServiceName": {
            "referenceName": "<Hive linked service name>",
            "type": "LinkedServiceReference"
        }
    }
}

Propriedades da atividade de cópiaCopy activity properties

Para obter uma lista completa das seções e propriedades disponíveis para definir atividades, confia o artigo Pipelines.For a full list of sections and properties available for defining activities, see the Pipelines article. Esta seção fornece uma lista das propriedades com suporte pela fonte Hive.This section provides a list of properties supported by Hive source.

HiveSource como fonteHiveSource as source

Para copiar dados de Hive, defina o tipo de fonte na atividade de cópia como HiveSource.To copy data from Hive, set the source type in the copy activity to HiveSource. As propriedades a seguir têm suporte na seção source da atividade de cópia:The following properties are supported in the copy activity source section:

Exemplo:Example:

"activities":[
    {
        "name": "CopyFromHive",
        "type": "Copy",
        "inputs": [
            {
                "referenceName": "<Hive input dataset name>",
                "type": "DatasetReference"
            }
        ],
        "outputs": [
            {
                "referenceName": "<output dataset name>",
                "type": "DatasetReference"
            }
        ],
        "typeProperties": {
            "source": {
                "type": "HiveSource",
                "query": "SELECT * FROM MyTable"
            },
            "sink": {
                "type": "<sink type>"
            }
        }
    }
]

Propriedades do fluxo de dados de mapeamentoMapping data flow properties

Há suporte para o conector do hive como uma fonte de conjunto de dados embutida no mapeamento de fluxos.The hive connector is supported as an inline dataset source in mapping data flows. Leia usando uma consulta ou diretamente de uma tabela Hive no HDInsight.Read using a query or directly from a Hive table in HDInsight. Os dados do hive são preparados em uma conta de armazenamento como arquivos parquet antes de serem transformados como parte de um fluxo de dados.Hive data gets staged in a storage account as parquet files before getting transformed as part of a data flow.

Propriedades de origemSource properties

A tabela abaixo lista as propriedades com suporte por uma origem do hive.The below table lists the properties supported by a hive source. Você pode editar essas propriedades na guia Opções de origem .You can edit these properties in the Source options tab.

Exemplo de origemSource example

Veja abaixo um exemplo de configuração de origem do hive:Below is an example of a Hive source configuration:

Essas configurações são traduzidas para o seguinte script de fluxo de dados:These settings translate into the following data flow script:

source(
    allowSchemaDrift: true,
    validateSchema: false,
    ignoreNoFilesFound: false,
    format: 'table',
    store: 'hive',
    schemaName: 'default',
    tableName: 'hivesampletable',
    staged: true,
    storageContainer: 'khive',
    storageFolderPath: '',
    stagingDatabaseName: 'default') ~> hivesource

Limitações conhecidasKnown limitations

• Tipos complexos, como matrizes, mapas, structs e uniões, não têm suporte para leitura.Complex types such as arrays, maps, structs, and unions are not supported for read.
• O conector do hive só dá suporte a tabelas Hive no Azure HDInsight da versão 4,0 ou superior (Apache Hive 3.1.0)Hive connector only supports Hive tables in Azure HDInsight of version 4.0 or greater (Apache Hive 3.1.0)

Pesquisar propriedades de atividadeLookup activity properties

Para saber detalhes sobre as propriedades, verifique Pesquisar atividade.To learn details about the properties, check Lookup activity.

Próximas etapasNext steps

Para obter uma lista de armazenamentos de dados com suporte como origens e coletores pela atividade de cópia no Azure Data Factory, consulte Armazenamentos de dados com suporte.For a list of data stores supported as sources and sinks by the copy activity in Azure Data Factory, see supported data stores.