你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
az ml endpoint realtime
注意
此参考是 Azure CLI(版本 2.0.28 或更高版本)的 azure-cli-ml 扩展的一部分。 该扩展将在首次运行 az ml endpoint realtime 命令时自动安装。 详细了解扩展。
管理可操作的实时终结点。
命令
名称 | 说明 | 类型 | 状态 |
---|---|---|---|
az ml endpoint realtime create-version |
在工作区中创建实时终结点的版本。 |
扩展 | GA |
az ml endpoint realtime delete |
从工作区中删除实时终结点及其版本。 |
扩展 | GA |
az ml endpoint realtime delete-version |
删除工作区中实时终结点的版本。 |
扩展 | GA |
az ml endpoint realtime get-access-token |
获取令牌以发出请求实时终结点。 |
扩展 | GA |
az ml endpoint realtime get-keys |
获取针对实时终结点发出请求的密钥。 |
扩展 | GA |
az ml endpoint realtime get-logs |
获取实时终结点的日志。 |
扩展 | GA |
az ml endpoint realtime list |
列出工作区中的实时终结点。 |
扩展 | GA |
az ml endpoint realtime regen-key |
重新生成实时终结点的密钥。 |
扩展 | GA |
az ml endpoint realtime run |
在工作区中运行实时终结点。 |
扩展 | GA |
az ml endpoint realtime show |
显示工作区中实时终结点的详细信息。 |
扩展 | GA |
az ml endpoint realtime update |
更新工作区中的实时终结点。 |
扩展 | GA |
az ml endpoint realtime update-version |
更新工作区中实时终结点的版本。 |
扩展 | GA |
az ml endpoint realtime create-version
在工作区中创建实时终结点的版本。
az ml endpoint realtime create-version --name
--version-name
[--add-property]
[--add-tag]
[--ar]
[--as]
[--at]
[--autoscale-max-replicas]
[--autoscale-min-replicas]
[--cc]
[--ccl]
[--cf]
[--collect-model-data]
[--cvt]
[--dc]
[--description]
[--ed]
[--entry-script]
[--environment-name]
[--environment-version]
[--failure-threshold]
[--gb]
[--gbl]
[--gc]
[--ic]
[--id]
[--is-default]
[--max-request-wait-time]
[--model]
[--model-metadata-file]
[--no-wait]
[--nr]
[--path]
[--period-seconds]
[--replica-max-concurrent-requests]
[--resource-group]
[--scoring-timeout-ms]
[--sd]
[--st]
[--subscription-id]
[--timeout-seconds]
[--tp]
[--workspace-name]
[-v]
必需参数
端点名称。
在终结点中创建的版本名称。
可选参数
要添加的键/值属性(e.g. key=value )。 可以使用多个 --add-property 选项指定多个属性。
要添加的键/值标记(e.g. key=value )。 可以使用多个 --add-tag 选项指定多个标记。
自动缩放程序应尝试缩放此 Webservice 的频率。 默认值为 1。
是否为此 Web 服务启用自动缩放。 如果 num_replicas 为 None,则默认值为 True。
自动缩放程序应尝试维持此 Web 服务的目标利用率(低于 100%)。 默认值为 70。
自动缩放此 Webservice 时要使用的容器的最大数目。 默认值为 10。
自动缩放此 Webservice 时要使用的容器的最小数目。 默认值为 1。
要分配给此 Webservice 的 CPU 核心数。 可以是小数。 默认值为 0.1。
允许此 Web 服务使用的最大 CPU 核心数。 可以是小数。
包含要用于映像的 conda 环境定义的本地文件的路径。
是否为此 Web 服务启用模型数据收集。 默认为 False。
这是否是终结点中的控制版本。 默认为 False。
包含部署元数据的 JSON 文件的路径。
服务说明。
用于部署Azure 机器学习环境的目录。 它与“az ml environment scaffold”命令中提供的目录路径相同。
包含要为服务运行的代码的本地文件的路径(如果提供了source_directory的相对路径)。
用于部署Azure 机器学习环境的名称。
用于部署的现有Azure 机器学习环境的版本。
当 Pod 启动且运行情况探测失败时,Kubernetes 会在放弃之前尝试 --failure-threshold times。 默认值为 3。 最小值为 1。
为此 Webservice 分配的内存量 (GB)。 可以是小数。
允许此 Web 服务使用的最大内存量 (GB)。 可以是小数。
要为此 Web 服务分配的 gpu 核心数。 默认为 1。
包含推理配置的 JSON 或 YAML 文件的路径。
启动容器后,启动运行情况探测前的秒数。 默认值为 310。
这是否是终结点中的默认版本。 默认为 False。
在返回 503 错误之前,请求将在队列中停留的最长时间(以毫秒为单位)。 默认为 500。
要部署的模型的 ID。 可以使用其他 -m 参数指定多个模型。 模型需要首先注册。
包含模型注册元数据的 JSON 文件的路径。 可以使用多个 -f 参数提供多个模型。
标志不等待异步调用。
要分配给此 Webservice 的容器数量。 无默认值,如果未设置此参数,则默认启用自动缩放程序。
项目文件夹的路径。 默认值:当前目录。
执行运行情况探测的频率(秒)。 默认值为 10 秒。 最小值为 1。
允许此 Web 服务的每个节点的最大并发请求数。 默认值为 1。
与提供的工作区对应的资源组。
对此 Webservice 的评分调用强制执行的超时时间。 默认值为 60000。
包含要创建映像的所有文件的文件夹的路径。
运行情况探测失败后,将其视为成功所需的最小连续成功次数。 默认值为 1。 最小值为 1。
指定订阅 ID。
运行情况探测超时前等待的秒数。默认值为 2 秒。 最小值为 1。
此版本的流量百分位数采用 Endpoint。
包含要更新的服务的工作区的名称。
详细标志。
全局参数
提高日志记录详细程度以显示所有调试日志。
显示此帮助消息并退出。
只显示错误,取消显示警告。
输出格式。
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
提高日志记录详细程度。 使用 --debug 获取完整的调试日志。
az ml endpoint realtime delete
从工作区中删除实时终结点及其版本。
az ml endpoint realtime delete --name
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必需参数
要删除的终结点名称。
可选参数
项目文件夹的路径。 默认值:当前目录。
与提供的工作区对应的资源组。
指定订阅 ID。
包含要删除的终结点的工作区的名称。
详细标志。
全局参数
提高日志记录详细程度以显示所有调试日志。
显示此帮助消息并退出。
只显示错误,取消显示警告。
输出格式。
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
提高日志记录详细程度。 使用 --debug 获取完整的调试日志。
az ml endpoint realtime delete-version
删除工作区中实时终结点的版本。
az ml endpoint realtime delete-version --name
--version-name
[--no-wait]
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必需参数
端点名称。
要删除的版本名称。
可选参数
标志不等待异步调用。
项目文件夹的路径。 默认值:当前目录。
与提供的工作区对应的资源组。
指定订阅 ID。
包含要删除的终结点的工作区的名称。
详细标志。
全局参数
提高日志记录详细程度以显示所有调试日志。
显示此帮助消息并退出。
只显示错误,取消显示警告。
输出格式。
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
提高日志记录详细程度。 使用 --debug 获取完整的调试日志。
az ml endpoint realtime get-access-token
获取令牌以发出请求实时终结点。
az ml endpoint realtime get-access-token --name
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必需参数
终结点名称。
可选参数
项目文件夹的路径。 默认值:当前目录。
与提供的工作区对应的资源组。
指定订阅 ID。
包含要显示的终结点的工作区的名称。
详细标志。
全局参数
提高日志记录详细程度以显示所有调试日志。
显示此帮助消息并退出。
只显示错误,取消显示警告。
输出格式。
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
提高日志记录详细程度。 使用 --debug 获取完整的调试日志。
az ml endpoint realtime get-keys
获取针对实时终结点发出请求的密钥。
az ml endpoint realtime get-keys --name
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必需参数
终结点名称。
可选参数
项目文件夹的路径。 默认值:当前目录。
与提供的工作区对应的资源组。
指定订阅 ID。
包含要显示的终结点的工作区的名称。
详细标志。
全局参数
提高日志记录详细程度以显示所有调试日志。
显示此帮助消息并退出。
只显示错误,取消显示警告。
输出格式。
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
提高日志记录详细程度。 使用 --debug 获取完整的调试日志。
az ml endpoint realtime get-logs
获取实时终结点的日志。
az ml endpoint realtime get-logs --name
[--init]
[--num_lines]
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必需参数
终结点名称。
可选参数
获取 init 容器的日志,而不是评分容器。
要从结尾返回的日志行数(默认值为 5000)。
项目文件夹的路径。 默认值:当前目录。
与提供的工作区对应的资源组。
指定订阅 ID。
包含要显示的终结点的工作区的名称。
详细标志。
全局参数
提高日志记录详细程度以显示所有调试日志。
显示此帮助消息并退出。
只显示错误,取消显示警告。
输出格式。
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
提高日志记录详细程度。 使用 --debug 获取完整的调试日志。
az ml endpoint realtime list
列出工作区中的实时终结点。
az ml endpoint realtime list [--compute-type]
[--model-id]
[--model-name]
[--path]
[--property]
[--resource-group]
[--subscription-id]
[--tag]
[--workspace-name]
[-v]
可选参数
如果提供,将仅显示具有指定计算类型的服务。 (选项为“ACI”、“AKS”、“AK标准版NDPOINT”。
如果提供,将仅显示具有指定模型 ID 的服务。
如果提供,将仅显示具有指定模型名称的服务。
项目文件夹的路径。 默认值:当前目录。
如果提供,将根据提供的键/值(e.g. key或 key=value)进行筛选。 可以使用多个 --property 选项指定多个属性。
与提供的工作区对应的资源组。
指定订阅 ID。
如果提供,将根据提供的键/值(e.g. key或 key=value)进行筛选。 可以使用多个 --tag 选项指定多个标记。
包含要列出的终结点的工作区的名称。
详细标志。
全局参数
提高日志记录详细程度以显示所有调试日志。
显示此帮助消息并退出。
只显示错误,取消显示警告。
输出格式。
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
提高日志记录详细程度。 使用 --debug 获取完整的调试日志。
az ml endpoint realtime regen-key
重新生成实时终结点的密钥。
az ml endpoint realtime regen-key --key
--name
[--path]
[--resource-group]
[--set-key]
[--subscription-id]
[--workspace-name]
[-v]
必需参数
如果指定了 regen,则重新生成哪个密钥。 选项:主数据库、辅助数据库。
终结点名称。
可选参数
项目文件夹的路径。 默认值:当前目录。
与提供的工作区对应的资源组。
为指定的密钥提供身份验证值。
指定订阅 ID。
包含要显示的终结点的工作区的名称。
详细标志。
全局参数
提高日志记录详细程度以显示所有调试日志。
显示此帮助消息并退出。
只显示错误,取消显示警告。
输出格式。
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
提高日志记录详细程度。 使用 --debug 获取完整的调试日志。
az ml endpoint realtime run
在工作区中运行实时终结点。
az ml endpoint realtime run --name
[--input-data]
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必需参数
要对其评分的终结点名称。
可选参数
用于调用终结点的数据。
项目文件夹的路径。 默认值:当前目录。
与提供的工作区对应的资源组。
指定订阅 ID。
包含要运行的终结点的工作区的名称。
详细标志。
全局参数
提高日志记录详细程度以显示所有调试日志。
显示此帮助消息并退出。
只显示错误,取消显示警告。
输出格式。
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
提高日志记录详细程度。 使用 --debug 获取完整的调试日志。
az ml endpoint realtime show
显示工作区中实时终结点的详细信息。
az ml endpoint realtime show --name
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必需参数
要显示的终结点的名称。
可选参数
项目文件夹的路径。 默认值:当前目录。
与提供的工作区对应的资源组。
指定订阅 ID。
包含要显示的终结点的工作区的名称。
详细标志。
全局参数
提高日志记录详细程度以显示所有调试日志。
显示此帮助消息并退出。
只显示错误,取消显示警告。
输出格式。
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
提高日志记录详细程度。 使用 --debug 获取完整的调试日志。
az ml endpoint realtime update
更新工作区中的实时终结点。
az ml endpoint realtime update --name
[--add-property]
[--add-tag]
[--ae]
[--ai]
[--description]
[--no-wait]
[--path]
[--remove-tag]
[--resource-group]
[--subscription-id]
[--token-auth-enabled]
[--workspace-name]
[-v]
必需参数
要更新的终结点名称。
可选参数
要添加的键/值属性(e.g. key=value )。 可以使用多个 --add-property 选项指定多个属性。
要添加的键/值标记(e.g. key=value )。 可以使用多个 --add-tag 选项指定多个标记。
是否为此终结点启用密钥身份验证。 默认为 False。
是否为此终结点启用 AppInsights。 默认为 False。
终结点的说明。
标志不等待异步调用。
项目文件夹的路径。 默认值:当前目录。
要删除的标记键。 可以使用多个 --remove-tag 选项指定多个标记。
与提供的工作区对应的资源组。
指定订阅 ID。
是否为此终结点启用令牌身份验证。 默认为 False。
包含要更新的终结点的工作区的名称。
详细标志。
全局参数
提高日志记录详细程度以显示所有调试日志。
显示此帮助消息并退出。
只显示错误,取消显示警告。
输出格式。
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
提高日志记录详细程度。 使用 --debug 获取完整的调试日志。
az ml endpoint realtime update-version
更新工作区中实时终结点的版本。
az ml endpoint realtime update-version --name
--version-name
[--add-property]
[--add-tag]
[--ar]
[--as]
[--at]
[--autoscale-max-replicas]
[--autoscale-min-replicas]
[--cc]
[--ccl]
[--cf]
[--collect-model-data]
[--cvt]
[--dc]
[--description]
[--ed]
[--entry-script]
[--environment-name]
[--environment-version]
[--failure-threshold]
[--gb]
[--gbl]
[--gc]
[--ic]
[--id]
[--is-default]
[--max-request-wait-time]
[--model]
[--model-metadata-file]
[--no-wait]
[--nr]
[--path]
[--period-seconds]
[--replica-max-concurrent-requests]
[--resource-group]
[--scoring-timeout-ms]
[--sd]
[--st]
[--subscription-id]
[--timeout-seconds]
[--tp]
[--workspace-name]
[-v]
必需参数
端点名称。
在终结点中创建的版本名称。
可选参数
要添加的键/值属性(e.g. key=value )。 可以使用多个 --add-property 选项指定多个属性。
要添加的键/值标记(e.g. key=value )。 可以使用多个 --add-tag 选项指定多个标记。
自动缩放程序应尝试缩放此 Webservice 的频率。 默认值为 1。
是否为此 Web 服务启用自动缩放。 如果 num_replicas 为 None,则默认值为 True。
自动缩放程序应尝试维持此 Web 服务的目标利用率(低于 100%)。 默认值为 70。
自动缩放此 Webservice 时要使用的容器的最大数目。 默认值为 10。
自动缩放此 Webservice 时要使用的容器的最小数目。 默认值为 1。
要分配给此 Webservice 的 CPU 核心数。 可以是小数。 默认值为 0.1。
允许此 Web 服务使用的最大 CPU 核心数。 可以是小数。
包含要用于映像的 conda 环境定义的本地文件的路径。
是否为此 Web 服务启用模型数据收集。 默认为 False。
这是否是终结点中的控制版本。 默认为 False。
包含部署元数据的 JSON 文件的路径。
服务说明。
用于部署Azure 机器学习环境的目录。 它与“az ml environment scaffold”命令中提供的目录路径相同。
包含要为服务运行的代码的本地文件的路径(如果提供了source_directory的相对路径)。
用于部署Azure 机器学习环境的名称。
用于部署的现有Azure 机器学习环境的版本。
当 Pod 启动且运行情况探测失败时,Kubernetes 会在放弃之前尝试 --failure-threshold times。 默认值为 3。 最小值为 1。
为此 Webservice 分配的内存量 (GB)。 可以是小数。
允许此 Web 服务使用的最大内存量 (GB)。 可以是小数。
要为此 Web 服务分配的 gpu 核心数。 默认为 1。
包含推理配置的 JSON 或 YAML 文件的路径。
启动容器后,启动运行情况探测前的秒数。 默认值为 310。
这是否是终结点中的默认版本。 默认为 False。
在返回 503 错误之前,请求将在队列中停留的最长时间(以毫秒为单位)。 默认为 500。
要部署的模型的 ID。 可以使用其他 -m 参数指定多个模型。 模型需要首先注册。
包含模型注册元数据的 JSON 文件的路径。 可以使用多个 -f 参数提供多个模型。
标志不等待异步调用。
要分配给此 Webservice 的容器数量。 无默认值,如果未设置此参数,则默认启用自动缩放程序。
项目文件夹的路径。 默认值:当前目录。
执行运行情况探测的频率(秒)。 默认值为 10 秒。 最小值为 1。
允许此 Web 服务的每个节点的最大并发请求数。 默认值为 1。
与提供的工作区对应的资源组。
对此 Webservice 的评分调用强制执行的超时时间。 默认值为 60000。
包含要创建映像的所有文件的文件夹的路径。
运行情况探测失败后,将其视为成功所需的最小连续成功次数。 默认值为 1。 最小值为 1。
指定订阅 ID。
运行情况探测超时前等待的秒数。默认值为 2 秒。 最小值为 1。
此版本的流量百分位数采用 Endpoint。
包含要更新的服务的工作区的名称。
详细标志。
全局参数
提高日志记录详细程度以显示所有调试日志。
显示此帮助消息并退出。
只显示错误,取消显示警告。
输出格式。
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
提高日志记录详细程度。 使用 --debug 获取完整的调试日志。
反馈
https://aka.ms/ContentUserFeedback。
即将推出:在整个 2024 年,我们将逐步取消以“GitHub 问题”作为内容的反馈机制,并将其替换为新的反馈系统。 有关详细信息,请参阅:提交和查看相关反馈