Configurar contêineres do serviço de Fala

Os contêineres de fala permitem que os clientes criem uma arquitetura de aplicativo de fala otimizada para aproveitar os recursos robustos da nuvem e a localidade de borda.

O ambiente de tempo de execução do contêiner de fala é configurado usando os argumentos de docker run comando. Este contêiner tem algumas configurações obrigatórias e opcionais. As configurações específicas do contêiner são as configurações de faturamento.

Definições de configuração

O contêiner tem as seguintes definições de configuração:

Obrigatório Definição Purpose
Sim ApiKey Rastreia informações de faturamento.
Não ApplicationInsights Permite adicionar suporte de telemetria do Azure Application Insights ao seu contêiner.
Sim Faturação Especifica o URI do ponto de extremidade do recurso de serviço no Azure.
Sim Eula Indica que você aceitou a licença para o contêiner.
Não Fluente Grava dados de log e, opcionalmente, métricos em um servidor Fluentd.
Não HTTP Proxy Configura um proxy HTTP para fazer solicitações de saída.
Não Registo Fornece suporte de log ASP.NET Core para seu contêiner.
Não Montagens Lê e grava dados do computador host para o contêiner e do contêiner de volta para o computador host.

Importante

As ApiKeyconfigurações , , e são usadas juntas, e você deve fornecer valores válidos para todas as três, caso contrário, BillingEula seu contêiner não será iniciado. Para obter mais informações sobre como usar essas definições de configuração para instanciar um contêiner, consulte Faturamento.

Definição de configuração ApiKey

A ApiKey configuração especifica a chave de recurso do Azure usada para controlar as informações de cobrança do contêiner. Você deve especificar um valor para ApiKey e o valor deve ser uma chave válida para o recurso Speech especificado para a definição de Billing configuração.

Essa configuração pode ser encontrada no seguinte local:

  • Portal do Azure: Gerenciamento de Recursos de Fala , em Chaves

Configuração do ApplicationInsights

A ApplicationInsights configuração permite que você adicione suporte à telemetria do Azure Application Insights ao seu contêiner. O Application Insights fornece monitoramento detalhado do seu contêiner. Você pode facilmente monitorar seu contêiner quanto à disponibilidade, desempenho e uso. Você também pode identificar e diagnosticar rapidamente erros em seu contêiner.

A tabela a seguir descreve as definições de configuração suportadas ApplicationInsights na seção .

Obrigatório Name Tipo de dados Description
Não InstrumentationKey String A chave de instrumentação da instância do Application Insights para a qual os dados de telemetria do contêiner são enviados. Para obter mais informações, consulte Application Insights for ASP.NET Core.

Exemplo:
InstrumentationKey=123456789

Definição de configuração de faturação

A Billing configuração especifica o URI do ponto de extremidade do recurso de Fala no Azure usado para medir as informações de cobrança do contêiner. Você deve especificar um valor para essa definição de configuração e o valor deve ser um URI de ponto de extremidade válido para um recurso de Fala no Azure. O contêiner relata o uso a cada 10 a 15 minutos.

Essa configuração pode ser encontrada no seguinte local:

  • Portal do Azure: rotulado Endpoint na página Visão geral de fala
Obrigatório Name Tipo de dados Description
Sim Billing String URI do ponto de extremidade de faturamento. Para obter mais informações sobre como obter o URI de faturamento, consulte Faturamento. Para obter mais informações e uma lista completa de pontos de extremidade regionais, consulte Nomes de subdomínio personalizados para serviços de IA do Azure.

Configuração de Eula

A Eula configuração indica que você aceitou a licença para o contêiner. Você deve especificar um valor para essa definição de configuração e o valor deve ser definido como accept.

Obrigatório Name Tipo de dados Description
Sim Eula String Aceitação da licença

Exemplo:
Eula=accept

Os contêineres de serviços de IA do Azure são licenciados sob seu contrato que rege seu uso do Azure. Se não tiver um contrato existente que regule a sua utilização do Azure, concorda que o seu contrato que rege a utilização do Azure é o Contrato de Subscrição Online da Microsoft, que incorpora os Termos dos Serviços Online. Para visualizações, você também concorda com os Termos de Uso Suplementares para Visualizações do Microsoft Azure. Ao usar o contêiner, você concorda com estes termos.

Configurações fluentes

Fluentd é um coletor de dados de código aberto para registro em log unificado. As Fluentd configurações gerenciam a conexão do contêiner com um servidor Fluentd . O contêiner inclui um provedor de registro em log Fluentd, que permite que seu contêiner grave logs e, opcionalmente, dados métricos em um servidor Fluentd.

A tabela a seguir descreve as definições de configuração suportadas Fluentd na seção .

Name Tipo de dados Description
Host String O endereço IP ou nome de host DNS do servidor Fluentd.
Port Número inteiro A porta do servidor Fluentd.
O valor padrão é 24224.
HeartbeatMs Número inteiro O intervalo de batimento cardíaco, em milissegundos. Se nenhum tráfego de eventos tiver sido enviado antes que esse intervalo expire, uma pulsação será enviada para o servidor Fluentd. O valor padrão é 60000 milissegundos (1 minuto).
SendBufferSize Número inteiro O espaço de buffer de rede, em bytes, alocado para operações de envio. O valor padrão é 32768 bytes (32 kilobytes).
TlsConnectionEstablishmentTimeoutMs Número inteiro O tempo limite, em milissegundos, para estabelecer uma conexão SSL/TLS com o servidor Fluentd. O valor padrão é 10000 milissegundos (10 segundos).
Se UseTLS estiver definido como false, esse valor será ignorado.
UseTLS Boolean Indica se o contêiner deve usar SSL/TLS para se comunicar com o servidor Fluentd. O valor predefinido é false.

Configurações de credenciais de proxy HTTP

Se você precisar configurar um proxy HTTP para fazer solicitações de saída, use estes dois argumentos:

Name Tipo de dados Description
HTTP_PROXY string O proxy a ser usado, por exemplo, http://proxy:8888
<proxy-url>
HTTP_PROXY_CREDS string Quaisquer credenciais necessárias para autenticar no proxy, por exemplo, username:password. Esse valor deve estar em minúsculas.
<proxy-user> string O usuário para o proxy.
<proxy-password> string A senha associada ao <proxy-user> proxy.
docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
--mount type=bind,src=/home/azureuser/output,target=/output \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
HTTP_PROXY=<proxy-url> \
HTTP_PROXY_CREDS=<proxy-user>:<proxy-password> \

Definições de registo

As Logging configurações gerenciam ASP.NET suporte de log principal para seu contêiner. Você pode usar as mesmas definições de configuração e valores para seu contêiner que você usa para um aplicativo ASP.NET Core.

Os seguintes provedores de log são suportados pelo contêiner:

Provider Propósito
Consola O provedor de log ASP.NET Core Console . Todas as definições de configuração do ASP.NET Core e os valores padrão para este provedor de log são suportados.
Debug O provedor de log ASP.NET Core Debug . Todas as definições de configuração do ASP.NET Core e os valores padrão para este provedor de log são suportados.
Disk O provedor de log JSON. Esse provedor de log grava dados de log na montagem de saída.

Este comando container armazena informações de log no formato JSON para a montagem de saída:

docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
--mount type=bind,src=/home/azureuser/output,target=/output \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
Logging:Disk:Format=json \
Mounts:Output=/output

Este comando container mostra informações de depuração, prefixadas com dbug, enquanto o contêiner está em execução:

docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
Logging:Console:LogLevel:Default=Debug

Registo de discos

O Disk provedor de log suporta as seguintes definições de configuração:

Name Tipo de dados Description
Format String O formato de saída para arquivos de log.
Nota: Esse valor deve ser definido para json habilitar o provedor de log. Se esse valor for especificado sem especificar também uma montagem de saída ao instanciar um contêiner, ocorrerá um erro.
MaxFileSize Número inteiro O tamanho máximo, em megabytes (MB), de um arquivo de log. Quando o tamanho do arquivo de log atual atende ou excede esse valor, um novo arquivo de log é iniciado pelo provedor de log. Se -1 for especificado, o tamanho do arquivo de log será limitado apenas pelo tamanho máximo do arquivo, se houver, para a montagem de saída. O valor predefinido é 1.

Para obter mais informações sobre como configurar ASP.NET suporte ao log principal, consulte Configuração do arquivo de configurações.

Configurações de montagem

Use montagens de ligação para ler e gravar dados de e para o contêiner. Você pode especificar uma montagem de entrada ou de saída especificando a --mount opção no comando docker run .

Os contêineres de fala padrão não usam montagens de entrada ou saída para armazenar dados de treinamento ou serviço. No entanto, os contêineres de fala personalizados dependem de montagens de volume.

A sintaxe exata do local de montagem do host varia dependendo do sistema operacional do host. Além disso, o local de montagem do computador host pode não estar acessível devido a um conflito entre as permissões usadas pela conta de serviço do docker e as permissões de local de montagem do host.

Opcional Name Tipo de dados Description
Não permitido Input String Os contêineres de fala padrão não usam isso. Os contentores de voz personalizados utilizam montagens de volume.
Opcional Output String O alvo da montagem de saída. O valor predefinido é /output. Este é o local dos logs. Isso inclui logs de contêiner.

Exemplo:
--mount type=bind,src=c:\output,target=/output

Configurações de montagem de volume

Os contêineres de fala personalizados usam montagens de volume para persistir modelos personalizados . Você pode especificar uma montagem de volume adicionando a -v opção (ou --volume) ao comando docker run .

Nota

As configurações de montagem de volume só são aplicáveis para contêineres de fala personalizada para texto .

Os modelos personalizados são baixados na primeira vez que um novo modelo é ingerido como parte do comando de contêiner de docker run fala personalizado. Execuções sequenciais do mesmo ModelId para um contêiner de fala personalizado usa o modelo baixado anteriormente. Se a montagem de volume não for fornecida, os modelos personalizados não poderão ser mantidos.

A configuração de montagem de volume consiste em três campos separados por cores : :

  1. O primeiro campo é o nome do volume na máquina host, por exemplo C:\input.
  2. O segundo campo é o diretório no contêiner, por exemplo /usr/local/models.
  3. O terceiro campo (opcional) é uma lista de opções separadas por vírgula, para obter mais informações, consulte volumes de uso.

Aqui está um exemplo de montagem de volume que monta o diretório C:\input da máquina host no diretório containers /usr/local/models.

-v C:\input:/usr/local/models

Próximos passos