Abfragen eines bereitgestellten Modells mit ai_query()

Wichtig

Dieses Feature befindet sich in der Public Preview.

In diesem Artikel wird beschrieben, wie Sie einen Modellbereitstellungsendpunkt über SQL mit ai_query() abfragen.

Was ist ai_query()?

Die ai_query()-Funktion ist eine integrierte SQL-Funktion in Azure Databricks, die Teil von KI-Funktionen ist. Diese Typen von Modellen können über SQL-Abfragen zugänglich sein:

• Benutzerdefinierte Modelle, die von einem modellorientierten Endpunkt gehostet werden.
• Modelle, die von Databricks Foundation Model-APIs gehostet werden.
• Externe Modelle (Drittanbietermodelle, die außerhalb von Databricks gehostet werden).

Syntax und Entwurfsmuster finden Sie unter ai_query-Funktion.

Wenn diese Funktion zum Abfragen eines Modellbereitstellungsendpunkts verwendet wird, ist sie nur in Arbeitsbereichen und Regionen verfügbar, in denen die Modellbereitstellung verfügbar und aktiviert ist.

Anforderungen

• Diese Funktion ist in Azure Databricks SQL Classic nicht verfügbar.
• Um Endpunkte abzufragen, die benutzerdefinierten Modelle oder externen Modelle bedienen, müssen Sie sich in der öffentlichen Vorschau registrieren. Füllen Sie das KI Functions Public Preview-Registrierungsformular aus und übermitteln Sie es.
• Ein vorhandener Modellbereitstellungsendpunkt mit geladenem Modell. Weitere Informationen finden Sie unter Erstellen von benutzerdefinierten Model Serving-Endpunkten.
• Sie müssen Azure Private Link aktivieren, um dieses Feature in SQL-Warehouses vom Typ „Pro“ verwenden zu können.

Abfragen des Endpunkts mit ai_query()

Sie können das Modell hinter dem Endpunkt mithilfe von ai_query() für SQL-Warehouses vom Typ „Serverlos“ oder „Pro“ abfragen. Informationen zu den Formaten von Bewertungsanforderungen und -antworten finden Sie unter Abfragen von Foundation-Modellen.

Hinweis

• Für Databricks Runtime 14.2 und höher wird diese Funktion in Notebookumgebungen unterstützt, einschließlich Databricks-Notebooks und -Workflows.
• Für Databricks Runtime 14.1 und früher wird diese Funktion in Notebookumgebungen, einschließlich Databricks-Notebooks, nicht unterstützt.

Beispiel: Abfragen eines großen Sprachmodells

Das folgende Beispiel fragt das Modell hinter dem Endpunkt sentiment-analysis mit dem Dataset text ab und gibt den Rückgabetyp der Anforderung an.

SELECT text, ai_query(
    "sentiment-analysis",
    text,
    returnType => "STRUCT<label:STRING, score:DOUBLE>"
  ) AS predict
FROM
  catalog.schema.customer_reviews

Beispiel: Abfragen eines Vorhersagemodells

Im folgenden Beispiel wird ein Klassifizierungsmodell hinter dem spam-classification-Endpunkt abgefragt, um vorherzusagen, ob es sich bei text um Spam in der inbox_messages-Tabelle handelt. Das Modell verwendet drei Eingabefeatures: Zeitstempel, Absender, Text. Das Modell gibt ein boolesches Array zurück.

SELECT text, ai_query(
  endpoint => "spam-classification",
  request => named_struct(
    "timestamp", timestamp,
    "sender", from_number,
    "text", text),
  returnType => "BOOLEAN") AS is_spam
FROM catalog.schema.inbox_messages