Share via

O que é o Databricks Feature Serving?

  • Artigo

O Databricks Feature Serving disponibiliza dados na plataforma Databricks para modelos ou aplicativos implantados fora do Azure Databricks. Os pontos de extremidade do Feature Serving são dimensionados automaticamente para ajustar-se ao tráfego em tempo real e fornecer um serviço de alta disponibilidade e baixa latência para atender aos recursos. Esta página descreve como configurar e usar o Feature Serving. Para obter um tutorial passo a passo, consulte Tutorial: Implantar e consultar um ponto de extremidade de serviço de recurso.

Quando você usa o Serviço de Modelo do Databricks para atender a um modelo criado usando recursos do Databricks, o modelo pesquisa e transforma automaticamente os recursos para solicitações de inferência. Com o Databricks Feature Serving, você pode fornecer dados estruturados para aplicativos RAG (geração aumentada de recuperação), bem como os recursos necessários para outros aplicativos, como modelos servidos fora do Databricks ou qualquer outro aplicativo que exija recursos baseados em dados no Catálogo do Unity.

quando usar o serviço de recursos

Por que usar o Feature Serving?

O Databricks Feature Serving fornece uma única interface que atende a recursos pré-materializados e sob demanda. Ele também inclui os seguintes benefícios:

  • Simplicidade. O Databricks manipula a infraestrutura. Com uma única chamada à API, o Databricks cria um ambiente de serviço pronto para produção.
  • Alta disponibilidade e escalabilidade. Os pontos de extremidade do Feature Serving são escalados e reduzidos automaticamente para ajustar-se ao volume de solicitações de serviço.
  • Segurança. Os pontos de extremidade são implantados em um limite de rede seguro e usam computação dedicada que termina quando o ponto de extremidade é excluído ou dimensionado para zero.

Requisitos

  • Databricks Runtime 14.2 ML ou superior.
  • Para usar a API do Python, o Feature Serving requer a versão 0.1.2 ou superior do databricks-feature-engineering, que é integrada ao Databricks Runtime 14.2 ML. Para versões anteriores do Databricks Runtime ML, instale manualmente a versão necessária usando o %pip install databricks-feature-engineering>=0.1.2. Se você estiver usando um notebook do Databricks, deverá reiniciar o kernel do Python executando este comando em uma nova célula: dbutils.library.restartPython().
  • Para usar o SDK do Databricks, o Feature Serving requer a versão 0.18.0 ou superior do databricks-sdk. Para instalar manualmente a versão necessária, use %pip install databricks-sdk>=0.18.0. Se você estiver usando um notebook do Databricks, deverá reiniciar o kernel do Python executando este comando em uma nova célula: dbutils.library.restartPython().

O Databricks Feature Serving fornece uma interface do usuário e várias opções programáticas para criar, atualizar, consultar e excluir pontos de extremidade. Este artigo inclui instruções para cada uma das seguintes opções:

  • Interface do usuário do Databricks
  • API REST
  • API Python
  • SDK do Databricks

Para usar a API REST ou o SDK de Implantações do MLflow, você deve ter um token de API do Databricks.

Importante

Como prática recomendada de segurança para cenários de produção, a Databricks recomenda que você use tokens OAuth máquina a máquina para autenticação durante a produção.

Para testes e desenvolvimento, a Databricks recomenda a utilização de um token de acesso pessoal pertencente a principais de serviço em vez de utilizadores do espaço de trabalho. Para criar tokens para entidades de serviço, consulte Gerenciar tokens para uma entidade de serviço.

Autenticação para Feature Serving

Para obter informações sobre autenticação, consulte Autenticação para automação do Azure Databricks – visão geral.

Criar um FeatureSpec

Um FeatureSpec é um conjunto definido pelo usuário de recursos e funções. Você pode combinar recursos e funções em um FeatureSpec. FeatureSpecs são armazenados e gerenciados pelo Catálogo do Unity e aparecem no Gerenciador de Catálogos.

As tabelas especificadas em um FeatureSpec devem ser publicadas em uma tabela online ou em um repositório online de terceiros. Consulte Usar tabelas online para servir recursos em tempo real ou Repositórios online de terceiros.

Você precisa usar o pacote do databricks-feature-engineering para criar um FeatureSpec.

from databricks.feature_engineering import (
  FeatureFunction,
  FeatureLookup,
  FeatureEngineeringClient,
)

fe = FeatureEngineeringClient()

features = [
  # Lookup column `average_yearly_spend` and `country` from a table in UC by the input `user_id`.
  FeatureLookup(
    table_name="main.default.customer_profile",
    lookup_key="user_id",
    features=["average_yearly_spend", "country"]
  ),
  # Calculate a new feature called `spending_gap` - the difference between `ytd_spend` and `average_yearly_spend`.
  FeatureFunction(
    udf_name="main.default.difference",
    output_name="spending_gap",
    # Bind the function parameter with input from other features or from request.
    # The function calculates a - b.
    input_bindings={"a": "ytd_spend", "b": "average_yearly_spend"},
  ),
]

# Create a `FeatureSpec` with the features defined above.
# The `FeatureSpec` can be accessed in Unity Catalog as a function.
fe.create_feature_spec(
  name="main.default.customer_features",
  features=features,
)

Criar um ponto de extremidade

O FeatureSpecdefine o ponto de extremidade. Para obter mais informações, confira Criar pontos de extremidade de serviço de modelo personalizados, a documentação da API do Python ou a documentação do SDK do Databricks para obter mais detalhes.

API REST

curl -X POST -u token:$DATABRICKS_API_TOKEN ${WORKSPACE_URL}/api/2.0/serving-endpoints \
    -H 'Content-Type: application/json' \
    -d '"name": "customer-features",
   "config": {
       "served_entities": [
           {
               "entity_name": "main.default.customer_features",
               "workload_size": "Small",
               "scale_to_zero_enabled": true
           }
       ]
   }'

SDK do Databricks — Python

from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import EndpointCoreConfigInput, ServedEntityInput

workspace = WorkspaceClient()

# Create endpoint
workspace.serving_endpoints.create(
  name="my-serving-endpoint",
  config = EndpointCoreConfigInput(
    served_entities=[
    ServedEntityInput(
        entity_name="main.default.customer_features",
        scale_to_zero_enabled=True,
        workload_size="Small"
      )
    ]
  )
)

API do Python

from databricks.feature_engineering.entities.feature_serving_endpoint import (
  ServedEntity,
  EndpointCoreConfig,
)

fe.create_feature_serving_endpoint(
  name="customer-features",
    config=EndpointCoreConfig(
    served_entities=ServedEntity(
      feature_spec_name="main.default.customer_features",
             workload_size="Small",
             scale_to_zero_enabled=True,
             instance_profile_arn=None,
    )
  )
)

Para ver o ponto de extremidade, clique em Servir na barra lateral esquerda da interface do usuário do Databricks. Quando o estado estiver Pronto, o ponto de extremidade estará pronto para responder às consultas. Para saber mais sobre o Serviço de Modelo do Databricks, consulte Serviço de Modelo do Databricks.

Obter um ponto de extremidade

Você pode usar o SDK do Databricks ou a API do Python para obter os metadados e o status de um ponto de extremidade.

SDK do Databricks — Python

endpoint = workspace.serving_endpoints.get(name="customer-features")
# print(endpoint)

API do Python

endpoint = fe.get_feature_serving_endpoint(name="customer-features")
# print(endpoint)

Obter o esquema de um ponto de extremidade

Importante

Esse recurso está em uma versão prévia.

Você pode usar a API REST para obter o esquema de um ponto de extremidade. Para obter mais informações sobre o esquema do ponto de extremidade, consulte Obter um esquema de ponto de extremidade de serviço de modelo.

ACCESS_TOKEN=<token>
ENDPOINT_NAME=<endpoint name>

curl "https://example.databricks.com/api/2.0/serving-endpoints/$ENDPOINT_NAME/openapi" -H "Authorization: Bearer $ACCESS_TOKEN" -H "Content-Type: application/json"

Consultar um ponto de extremidade

Você pode usar a API REST, o SDK de Implantações do MLflow ou a Interface do Usuário de Serviços para consultar um ponto de extremidade.

O código a seguir mostra como configurar as credenciais e criar o cliente ao usar o SDK de Implantações do MLflow.

  # Set up credentials
  export DATABRICKS_HOST=...
  export DATABRICKS_TOKEN=...

  # Set up the client
  import mlflow.deployments

  client = mlflow.deployments.get_deploy_client("databricks")

Observação

Como melhor prática de segurança, ao autenticar com ferramentas, sistemas, scripts e aplicativos automatizados, o Databricks recomenda que você use tokens de acesso pertencentes às entidades de serviço e não aos usuários do workspace. Para criar tokens para entidades de serviço, consulte Gerenciar tokens para uma entidade de serviço.

Consultar um ponto de extremidade usando APIs

Essa seção inclui exemplos de consulta de um ponto de extremidade usando a API REST ou o SDK de Implantações do MLflow.

API REST

curl -X POST -u token:$DATABRICKS_API_TOKEN $ENDPOINT_INVOCATION_URL \
  -H 'Content-Type: application/json' \
  -d '{"dataframe_records": [
          {"user_id": 1, "ytd_spend": 598},
          {"user_id": 2, "ytd_spend": 280}
      ]}'

SDK de implantações do Mlflow

Importante

O exemplo a seguir usa a API predict() do SDK de Implantações do MLflow.. Esta API é Experimental e a definição da API pode ser alterada.

import mlflow.deployments

client = mlflow.deployments.get_deploy_client("databricks")
response = client.predict(
    endpoint="test-feature-endpoint",
    inputs={
        "dataframe_records": [
            {"user_id": 1, "ytd_spend": 598},
            {"user_id": 2, "ytd_spend": 280},
        ]
    },
)

Consultar um ponto de extremidade usando a interface do usuário

Você pode consultar um ponto de extremidade de serviços diretamente a partir da Interface do Usuário de Serviços. A interface do usuário inclui exemplos de código gerado que você pode usar para consultar o ponto de extremidade.

  1. Na barra de navegação do lado esquerdo do workspace do Azure Databricks, clique em Serviços.

  2. Clique no ponto de extremidade que você deseja consultar.

  3. No canto superior direito da tela, clique em Ponto de Extremidade de Consulta.

    botão de ponto de extremidade de consulta

  4. Na caixa Solicitação, digite o corpo da solicitação no formato JSON.

  5. Clique em Enviar solicitação.

// Example of a request body.
{
  "dataframe_records": [
    {"user_id": 1, "ytd_spend": 598},
    {"user_id": 2, "ytd_spend": 280}
  ]
}

A caixa de diálogo ponto de extremidade de consulta inclui código de exemplo gerado em curl, Python e SQL. Clique nas guias para exibir e copiar o código de exemplo.

caixa de diálogo do ponto de extremidade de consulta

Para copiar o código, clique no ícone de cópia no canto superior direito da caixa de texto.

botão copiar na caixa de diálogo ponto de extremidade de consulta

Atualizar um ponto de extremidade

Você pode atualizar um ponto de extremidade usando a API REST, o SDK do Databricks ou a Interface do Usuário de Serviços.

Atualizar um ponto de extremidade usando APIs

API REST

curl -X PUT -u token:$DATABRICKS_API_TOKEN ${WORKSPACE_URL}/api/2.0/serving-endpoints/<endpoint_name>/config \
  -H 'Content-Type: application/json' \
  -d '"served_entities": [
        {
            "name": "customer-features",
            "entity_name": "main.default.customer_features_new",
            "workload_size": "Small",
            "scale_to_zero_enabled": True
        }
    ]'

SDK do Databricks — Python

workspace.serving_endpoints.update_config(
  name="my-serving-endpoint",
  served_entities=[
    ServedEntityInput(
      entity_name="main.default.customer_features",
      scale_to_zero_enabled=True,
      workload_size="Small"
    )
  ]
)

Atualizar um ponto de extremidade usando a interface do usuário

Siga as etapas abaixo para usar a Interface do Usuário de Serviços.

  1. Na barra de navegação do lado esquerdo do workspace do Azure Databricks, clique em Serviços.
  2. Na tabela, clique no nome do ponto de extremidade que você quer atualizar. A tela do ponto de extremidade é exibida.
  3. No canto superior direito da tela, clique em Editar ponto de extremidade.
  4. Na caixa de diálogo Editar ponto de extremidade de serviços, edite as configurações do ponto de extremidade conforme necessário.
  5. Clique em Atualizar para salvar suas alterações.

atualizar um ponto de extremidade

Excluir um ponto de extremidade

Aviso

Essa ação é irreversível.

Você pode excluir um ponto de extremidade usando a API REST, o SDK do Databricks, a API do Python ou a Interface do Usuário de Serviços.

Excluir um ponto de extremidade usando APIs

API REST

curl -X DELETE -u token:$DATABRICKS_API_TOKEN ${WORKSPACE_URL}/api/2.0/serving-endpoints/<endpoint_name>

SDK do Databricks — Python

workspace.serving_endpoints.delete(name="customer-features")

API do Python

fe.delete_feature_serving_endpoint(name="customer-features")

Excluir um ponto de extremidade usando a interface do usuário

Siga as etapas abaixo para excluir um ponto de extremidade usando a Interface do Usuário de Serviços:

  1. Na barra de navegação do lado esquerdo do workspace do Azure Databricks, clique em Serviços.
  2. Na tabela, clique no nome do ponto de extremidade que você quer excluir. A tela do ponto de extremidade é exibida.
  3. No canto superior direito da tela, clique no menu kebab Menu kebab e selecione Excluir.

excluir um ponto de extremidade

Monitorar a integridade de um ponto de extremidade

Para obter informações sobre os logs e métricas disponíveis para pontos de extremidade do Feature Serving, confira Monitorar a qualidade do modelo e a integridade do ponto de extremidade.

Controle de acesso

Para obter informações sobre permissões em pontos de extremidade do Serviço de Recursos, consulte Gerenciar permissões no ponto de extremidade de serviço do modelo.

Blocos de anotações de exemplo

O notebook a seguir ilustra como usar o SDK do Databricks para criar um ponto de extremidade do Feature Serving usando Tabelas Online do Databricks.

Notebook de exemplo do Databricks Feature Serving com tabelas online

Obter notebook

O notebook a seguir ilustra como usar o SDK do Databricks para criar um ponto de extremidade do Feature Serving usando um repositório online de terceiros.

Notebook de exemplo do Feature Serving com CosmosDB

Obter notebook