Daftar SKU titik akhir online yang terkelola
Tabel ini menunjukkan SKU VM yang didukung untuk titik akhir online terkelola Azure Machine Learning.
Nama SKU lengkap yang tercantum dalam tabel dapat digunakan untuk permintaan templat Azure CLI atau Azure Resource Manager (templat ARM) untuk membuat dan memperbarui penyebaran.
Untuk informasi selengkapnya tentang detail konfigurasi seperti CPU dan RAM, lihat Harga Pembelajaran Mesin Azure dan ukuran VM.
| Ukuran Relatif | Tujuan Umum | Komputasi dioptimalkan | Memori Dioptimalkan | GPU |
|---|---|---|---|---|
| X-Kecil | Standard_DS1_v2 Standard_DS2_v2 Standard_D2a_v4 Standard_D2as_v4 |
Standard_F2s_v2 | Standard_E2s_v3 | Standard_NC4as_T4_v3 |
| Bentuk dan | Standard_DS3_v2 Standard_D4a_v4 Standard_D4as_v4 |
Standard_F4s_v2 Standard_FX4mds |
Standard_E4s_v3 | Standard_NC6s_v2 Standard_NC6s_v3 Standard_NC8as_T4_v3 |
| Medium | Standard_DS4_v2 Standard_D8a_v4 Standard_D8as_v4 |
Standard_F8s_v2 Standard_FX12mds |
Standard_E8s_v3 | Standard_NC12s_v2 Standard_NC12s_v3 Standard_NC16as_T4_v3 |
| Bentuk dan | Standard_DS5_v2 Standard_D16a_v4 Standard_D16as_v4 |
Standard_F16s_v2 | Standard_E16s_v3 | Standard_NC24s_v2 Standard_NC24s_v3 Standard_NC64as_T4_v3 Standard_NC24ads_A100_v4 |
| X-Besar | Standard_D32a_v4 Standard_D32as_v4 Standard_D48a_v4 Standard_D48as_v4 Standard_D64a_v4 Standard_D64as_v4 Standard_D96a_v4 Standard_D96as_v4 |
Standard_F32s_v2 Standard_F48s_v2 Standard_F64s_v2 Standard_F72s_v2 Standard_FX24mds Standard_FX36mds Standard_FX48mds |
Standard_E32s_v3 Standard_E48s_v3 Standard_E64s_v3 |
Standard_NC48ads_A100_v4 Standard_NC96ads_A100_v4 Standard_ND96asr_v4 Standard_ND96amsr_A100_v4 Standard_ND40rs_v2 |
Perhatian
Standard_DS1_v2 dan Standard_F2s_v2 mungkin terlalu kecil untuk model yang lebih besar dan dapat menyebabkan penghentian kontainer karena memori yang tidak cukup, tidak cukup ruang pada disk, atau kegagalan pemeriksaan karena membutuhkan waktu terlalu lama untuk memulai kontainer. Jika Anda menghadapi kesalahan OutOfQuota atau kesalahan ReourceNotReady, coba SKU VM yang lebih besar. Jika Anda ingin mengurangi biaya penyebaran beberapa model dengan titik akhir online terkelola, lihat contoh untuk multi model.
Catatan
Sebaiknya anda memiliki lebih dari 3 instans untuk penyebaran dalam skenario produksi. Selain itu, Azure Pembelajaran Mesin mencadangkan 20% sumber daya komputasi Anda untuk melakukan peningkatan pada beberapa SKU VM seperti yang dijelaskan dalam Alokasi kuota komputer virtual untuk penyebaran. SKU VM yang dikecualikan dari reservasi kuota tambahan ini tercantum di bawah ini:
- Standard_NC24ads_A100_v4
- Standard_NC48ads_A100_v4
- Standard_NC96ads_A100_v4
- Standard_ND96asr_v4
- Standard_ND96amsr_A100_v4
- Standard_ND40rs_v2