Разрешение имен

Область применения: Databricks SQL Databricks Runtime

Разрешение имен — это процесс, с помощью которого идентификаторы разрешаются для определенных столбцов , полей, параметров или табличных ссылок.

Разрешение столбцов, полей, параметров и переменных

Идентификаторы в выражениях могут ссылаться на любой из следующих элементов:

• Имя столбца на основе представления, таблицы, общего табличного выражения (CTE) или column_alias.
• Имя поля или ключ карты в структуре или карте. Поля и ключи никогда не могут быть незаквалифицироваться.
• Имя параметра определяемой пользователем функции SQL.
• Имя переменной.
• Специальная функция, например current_user или current_date которая не требует использования ().
• DEFAULT Ключевое слово, которая используется в контексте , UPDATEMERGEили SET VARIABLE для задания значения столбца INSERTили переменной по умолчанию.

Разрешение имен применяет следующие принципы:

• Ближайшие победы в сопоставлении ссылок и
• Столбцы и параметры выигрывают над полями и ключами.

Подробные сведения о разрешении идентификаторов для конкретной ссылки соответствуют следующим правилам:

1. Локальные ссылки

   1. Ссылка на столбец

      Соответствует идентификатору, который может быть квалифицирован, к имени столбца в ссылке FROM clauseна таблицу.

      Если существует несколько таких совпадений, вызовет ошибку A МБ IGUOUS_COLUMN_OR_FIELD.

   2. Справочник по функции без параметров

      Значение , если идентификатор не определен и соответствует current_user, current_dateили current_timestamp: разрешить его как одну из этих функций.

   3. Спецификация COLUMN DEFAULT

      Если идентификатор не определен, соответствует default и составляет все выражение в контексте UPDATE SETобъекта , INSERT VALUESили MERGE WHEN [NOT] MATCHED: разрешить в качестве соответствующего DEFAULT значения целевой таблицы INSERTUPDATE или MERGE.

   4. Ссылка на поле структуры или ключ карты

      Если идентификатор квалифицирован, выполните попытку сопоставить его с полем или ключом карты в соответствии со следующими шагами:

      А. Удалите последний идентификатор и обработайте его как поле или ключ. B. Сопоставляет оставшуюся часть столбца со ссылкой на таблицуFROM clause.

      Если существует несколько таких совпадений, вызовет ошибку A МБ IGUOUS_COLUMN_OR_FIELD.

      Если имеется совпадение, и столбец имеет следующий тип:

      • STRUCT: соответствует полю.

        Если поле не удается сопоставить, вызовите ошибку FIELD_NOT_FOUND .

        Если существует несколько полей, приведите ошибку A МБ IGUOUS_COLUMN_OR_FIELD.

      • MAP: возникает ошибка, если ключ квалифицирован.

        Средство выполнения может произойти, если ключ на самом деле отсутствует в карте.

      • Любой другой тип: вызов ошибки. C. Повторите предыдущий шаг, чтобы удалить конечный идентификатор в виде поля. Примените правила (A) и (B) при наличии идентификатора, оставленного для интерпретации как столбца.

2. Псевдоним бокового столбца

   Область применения: Databricks SQL Databricks Runtime 12.2 LTS и выше

   Если выражение находится в SELECT списке, сопоставляет ведущий идентификатор с предыдущим псевдонимом столбца в этом SELECT списке.

   Если существует несколько таких совпадений, приведите ошибку A МБ IGUOUS_LATERAL_COLUMN_ALIAS.

   Сопоставляйте каждый оставшийся идентификатор как поле или ключ карты, а также вызывает ошибку FIELD_NOT_FOUND или A МБ IGUOUS_COLUMN_OR_FIELD, если они не могут быть сопоставлены.

3. Корреляция

   • БОКОВОЙ

     Если запрос предшествует LATERAL ключевое слово, примените правила 1.a и 1.d, учитывая ссылки на таблицы, FROM содержащие запрос и предшествующиеLATERAL.

   • Периодически

     Если запрос является скалярным вложенным запросом, INили EXISTS вложенный запрос применяет правила 1.a, 1.d и 2, учитывая ссылки на таблицу в предложении содержащего запросаFROM.

4. Вложенная корреляция

   Повторно примените правило 3 итерации по уровням вложенности запроса.

5. Параметры подпрограммы

   Если выражение является частью инструкции CREATE FUNCTION :

   1. Соответствует идентификатору имени параметра. Если идентификатор квалифицирован, квалификатор должен соответствовать имени функции.
   2. Если идентификатор квалифицирован, сопоставляется с полем или ключом карты параметра, следующим правилом 1.c

6. Переменные

   1. Соответствует идентификатору имени переменной. Если идентификатор квалифицирован, квалификатор должен быть session или system.session.
   2. Если идентификатор квалифицирован, сопоставляется с полем или ключом карты переменной, следующей за правилом 1.c

Ограничения

Чтобы предотвратить выполнение потенциально дорогостоящих сопоставленных запросов, Azure Databricks ограничивает поддерживаемую корреляцию на один уровень. Это ограничение также применяется к ссылкам на параметры в функциях SQL.

Примеры

-- Differentiating columns and fields
> SELECT a FROM VALUES(1) AS t(a);
 1

> SELECT t.a FROM VALUES(1) AS t(a);
 1

> SELECT t.a FROM VALUES(named_struct('a', 1)) AS t(t);
 1

-- A column takes precendece over a field
> SELECT t.a FROM VALUES(named_struct('a', 1), 2) AS t(t, a);
 2

-- Implict lateral column alias
> SELECT c1 AS a, a + c1 FROM VALUES(2) AS T(c1);
 2  4

-- A local column reference takes precedence, over a lateral column alias
> SELECT c1 AS a, a + c1 FROM VALUES(2, 3) AS T(c1, a);
 2  5

-- A scalar subquery correlation to S.c3
> SELECT (SELECT c1 FROM VALUES(1, 2) AS t(c1, c2)
           WHERE t.c2 * 2 = c3)
    FROM VALUES(4) AS s(c3);
 1

-- A local reference takes precedence over correlation
> SELECT (SELECT c1 FROM VALUES(1, 2, 2) AS t(c1, c2, c3)
           WHERE t.c2 * 2 = c3)
    FROM VALUES(4) AS s(c3);
  NULL

-- An explicit scalar subquery correlation to s.c3
> SELECT (SELECT c1 FROM VALUES(1, 2, 2) AS t(c1, c2, c3)
           WHERE t.c2 * 2 = s.c3)
    FROM VALUES(4) AS s(c3);
 1

-- Correlation from an EXISTS predicate to t.c2
> SELECT c1 FROM VALUES(1, 2) AS T(c1, c2)
    WHERE EXISTS(SELECT 1 FROM VALUES(2) AS S(c2)
                  WHERE S.c2 = T.c2);
 1

-- Attempt a lateral correlation to t.c2
> SELECT c1, c2, c3
    FROM VALUES(1, 2) AS t(c1, c2),
         (SELECT c3 FROM VALUES(3, 4) AS s(c3, c4)
           WHERE c4 = c2 * 2);
 [UNRESOLVED_COLUMN] `c2`

-- Successsful usage of lateral correlation with keyword LATERAL
> SELECT c1, c2, c3
    FROM VALUES(1, 2) AS t(c1, c2),
         LATERAL(SELECT c3 FROM VALUES(3, 4) AS s(c3, c4)
                  WHERE c4 = c2 * 2);
 1  2  3

-- Referencing a parameter of a SQL function
> CREATE OR REPLACE TEMPORARY FUNCTION func(a INT) RETURNS INT
    RETURN (SELECT c1 FROM VALUES(1) AS T(c1) WHERE c1 = a);
> SELECT func(1), func(2);
 1  NULL

-- A column takes precedence over a parameter
> CREATE OR REPLACE TEMPORARY FUNCTION func(a INT) RETURNS INT
    RETURN (SELECT a FROM VALUES(1) AS T(a) WHERE t.a = a);
> SELECT func(1), func(2);
 1  1

-- Qualify the parameter with the function name
> CREATE OR REPLACE TEMPORARY FUNCTION func(a INT) RETURNS INT
    RETURN (SELECT a FROM VALUES(1) AS T(a) WHERE t.a = func.a);
> SELECT func(1), func(2);
 1  NULL

-- Lateral alias takes precedence over correlated reference
> SELECT (SELECT c2 FROM (SELECT 1 AS c1, c1 AS c2) WHERE c2 > 5)
    FROM VALUES(6) AS t(c1)
  NULL

-- Lateral alias takes precedence over function parameters
> CREATE OR REPLACE TEMPORARY FUNCTION func(x INT)
    RETURNS TABLE (a INT, b INT, c DOUBLE)
    RETURN SELECT x + 1 AS x, x
> SELECT * FROM func(1)
  2 2

-- All together now
> CREATE OR REPLACE TEMPORARY VIEW lat(a, b) AS VALUES('lat.a', 'lat.b');

> CREATE OR REPLACE TEMPORARY VIEW frm(a) AS VALUES('frm.a');

> CREATE OR REPLACE TEMPORARY FUNCTION func(a INT, b int, c int)
  RETURNS TABLE
  RETURN SELECT t.*
    FROM lat,
         LATERAL(SELECT a, b, c
                   FROM frm) AS t;

> VALUES func('func.a', 'func.b', 'func.c');
  a      b      c
  -----  -----  ------
  frm.a  lat.b  func.c

Разрешение таблиц и представлений

Идентификатор в таблице может быть одним из следующих вариантов:

• Постоянная таблица или представление в каталоге Unity или хранилище метаданных Hive
• Обобщенное табличное выражение (CTE)
• Временное представление

Разрешение идентификатора зависит от того, является ли оно квалифицированным:

• Квалифицирован

  Если идентификатор полностью заполнен тремя частями: catalog.schema.relationэто уникально.

  Если идентификатор состоит из двух частей: schema.relationон дополнительно квалифицируется с результатом SELECT current_catalog() , чтобы сделать его уникальным.

• Неквалифицированных

  1. Общее табличное выражение

     Если ссылка находится в область WITH предложения, соответствует идентификатору CTE, начиная с немедленно содержащего WITH предложения и перемещаясь из него.

  2. Временное представление

     Сопоставляйте идентификатор с любым временным представлением, определенным в текущем сеансе.

  3. Сохраняемая таблица

     Полное определение идентификатора путем предварительного ожидания результата SELECT current_catalog() и SELECT current_schema() поиска его в качестве постоянного отношения.

Если связь не может быть разрешена к любой таблице, представлению или CTE, Databricks вызывает ошибку TABLE_OR_VIEW_NOT_FOUND .

Примеры

-- Setting up a scenario
> USE CATALOG spark_catalog;
> USE SCHEMA default;

> CREATE TABLE rel(c1 int);
> INSERT INTO rel VALUES(1);

-- An fully qualified reference to rel:
> SELECT c1 FROM spark_catalog.default.rel;
 1

-- A partially qualified reference to rel:
> SELECT c1 FROM default.rel;
 1

-- An unqualified reference to rel:
> SELECT c1 FROM rel;
 1

-- Add a temporary view with a conflicting name:
> CREATE TEMPORARY VIEW rel(c1) AS VALUES(2);

-- For unqualified references the temporary view takes precedence over the persisted table:
> SELECT c1 FROM rel;
 2

-- Temporary views cannot be qualified, so qualifiecation resolved to the table:
> SELECT c1 FROM default.rel;
 1

-- An unqualified reference to a common table expression wins even over a temporary view:
> WITH rel(c1) AS (VALUES(3))
    SELECT * FROM rel;
 3

-- If CTEs are nested, the match nearest to the table reference takes precedence.
> WITH rel(c1) AS (VALUES(3))
    (WITH rel(c1) AS (VALUES(4))
      SELECT * FROM rel);
  4

-- To resolve the table instead of the CTE, qualify it:
> WITH rel(c1) AS (VALUES(3))
    (WITH rel(c1) AS (VALUES(4))
      SELECT * FROM default.rel);
  1

-- For a CTE to be visible it must contain the query
> SELECT * FROM (WITH cte(c1) AS (VALUES(1))
                   SELECT 1),
                cte;
  [TABLE_OR_VIEW_NOT_FOUND] The table or view `cte` cannot be found.

Разрешение функций

Ссылка на функцию распознается обязательным конечным набором круглых скобок.

Он может разрешить следующие возможности:

• Встроенная функция, предоставляемая Azure Databricks,
• Временная определяемая пользователем функция область в текущий сеанс или
• Постоянная определяемая пользователем функция, хранящуюся в хранилище метаданных hive или каталоге Unity.

Разрешение имени функции зависит от того, является ли оно квалифицированным:

• Квалифицирован

  Если имя полностью заполнено тремя частями: catalog.schema.functionэто уникально.

  Если имя состоит из двух частей: schema.functionоно дополнительно квалифицировано с результатом SELECT current_catalog() , чтобы сделать его уникальным.

  Затем функция ищется в каталоге.

• Неквалифицированных

  Для неквалифицированных имен функций Azure Databricks следует фиксированному порядку приоритета (PATH):

  1. Встроенная функция

     Если функция по этому имени существует среди набора встроенных функций, эта функция выбирается.

  2. Временная функция

     Если функция по этому имени существует среди набора временных функций, эта функция выбирается.

  3. Сохраняемая функция

     Полное определение имени функции путем предварительного ожидания результата SELECT current_catalog() и SELECT current_schema() поиска его в качестве постоянной функции.

Если не удается разрешить функцию Azure Databricks, возникает UNRESOLVED_ROUTINE ошибка.

Примеры

> USE CATALOG spark_catalog;
> USE SCHEMA default;

-- Create a function with the same name as a builtin
> CREATE FUNCTION concat(a STRING, b STRING) RETURNS STRING
    RETURN b || a;

-- unqualified reference resolves to the builtin CONCAT
> SELECT concat('hello', 'world');
 helloworld

-- Qualified reference resolves to the persistent function
> SELECT default.concat('hello', 'world');
 worldhello

-- Create a persistent function
> CREATE FUNCTION func(a INT, b INT) RETURNS INT
    RETURN a + b;

-- The persistent function is resolved without qualifying it
> SELECT func(4, 2);
 6

-- Create a conflicting temporary function
> CREATE FUNCTION func(a INT, b INT) RETURNS INT
    RETURN a / b;

-- The temporary function takes precedent
> SELECT func(4, 2);
 2

-- To resolve the persistent function it now needs qualification
> SELECT spark_catalog.default.func(4, 3);
 6

Связанные статьи

• CREATE FUNCTION (SQL и Python)
• Выражение SQL
• Идентификаторы
• Имена
• Справочник по таблицам
• Запрос