accel 包

使用 Azure ML 硬件加速模型服务加速 FPGA 上的深度神经网络。

models

使用 Azure ML 硬件加速模型服务加速的模型的 Python 表示。

AccelContainerImage

加速模型容器映像,表示可使用硬件加速部署的包。

AccelImageConfiguration

加速服务的容器映像配置对象。

AccelInferenceConfig

特定于加速模型部署的模型部署配置。

将执行以下操作之一:

  1. 如果将转换后的模型传递给它,则部署该模型。

  2. 部署以前转换的已传递模型的模型版本(如果存在)。

  3. 转换已传递模型并部署已转换模型。

AccelOnnxConverter

用于将模型转换为 AccelOnnx 风格的类。

PredictionClient

为 AzureML 加速模型评分客户端。

函数

client_from_service

client_from_service(webservice: azureml.core.webservice.aks.AksWebservice) -> azureml.accel._client.PredictionClient

参数

webservice