Azure Machine Learning'deki işlem hedefleri nelerdir?
İşlem hedefi, eğitim betiğinizi çalıştırarak veya hizmet dağıtımınızı barındırarak belirlenen bir işlem kaynağı veya ortamıdır. Bu konum yerel makineniz veya bulut tabanlı bir işlem kaynağı olabilir. İşlem hedeflerini kullanmak, kodunuzu değiştirmek zorunda kalmadan daha sonra işlem ortamınızı değiştirmenizi kolaylaştırır.
Tipik bir model geliştirme yaşam döngüsünde şunları sebilirsiniz:
- Başlangıç olarak küçük miktarda veri geliştirme ve denemeler yapmaya başlayabilirsiniz. Bu aşamada, işlem hedefi olarak yerel bilgisayar veya bulut tabanlı sanal makine (VM) gibi yerel ortamınızı kullanın.
- Ölçeği daha büyük veriye kadar ölçeklendirin veya bu eğitim işlem hedeflerinden birini kullanarak dağıtılmış eğitimler yapma.
- Modeliniz hazır olduktan sonra, bu dağıtım işlem hedeflerinden biri ile bir web barındırma ortamına dağıtın.
İşlem hedefleriniz için kullanabileceğiniz işlem kaynakları bir çalışma alanına eklenir. Yerel makine dışında işlem kaynakları çalışma alanı kullanıcıları tarafından paylaşılır.
Eğitim işlem hedefleri
Azure Machine Learning farklı işlem hedeflerine farklı destek sağlar. Tipik bir model geliştirme yaşam döngüsü, küçük miktarda veri üzerinde geliştirme veya deneme ile başlar. Bu aşamada, yerel bilgisayarınız veya bulut tabanlı BIR VM gibi yerel bir ortam kullanın. Daha büyük veri kümelerde eğitiminizin ölçeğini büyüttüyken veya dağıtılmış eğitim gerçekleştirecekken, her çalıştırma gönderdiğinizde otomatik olarak ölçeklendirilen tek veya çok düğümlü bir küme oluşturmak için Azure Machine Learning işlem kullanın. Farklı senaryolar için destek farklılık gösterse de kendi işlem kaynağınızı da iliştirebilirsiniz.
İşlem hedefleri bir eğitim işlerinden bir sonrakine kadar yeniden kullanılabilir. Örneğin, çalışma alanınıza uzak bir VM'yi iliştirdikten sonra birden çok iş için yeniden kullanabilirsiniz. Makine öğrenmesi işlem hatları için her işlem hedefi için uygun işlem hattı adımını kullanın.
Çoğu iş için eğitim işlem hedefi için aşağıdaki kaynaklardan herhangi birini kullanabilirsiniz. Otomatik makine öğrenmesi, makine öğrenmesi işlem hatları veya tasarımcı için tüm kaynaklar kullanılamaz. Azure Databricks yerel çalıştırmalar ve makine öğrenmesi işlem hatları için eğitim kaynağı olarak kullanılabilir, ancak diğer eğitimler için uzak hedef olarak kullanılamaz.
| Eğitim hedefleri | Otomatik makine öğrenimi | Makine öğrenmesi işlem hatları | Azure Machine Learning tasarımcısı |
|---|---|---|---|
| Yerel bilgisayar | Yes | ||
| Azure Machine Learning işlem kümesi oluşturma | Yes | Yes | Yes |
| Azure Machine Learning işlem örneği | Evet (SDK aracılığıyla) | Yes | Yes |
| Uzak VM | Yes | Yes | |
| Apache Spark havuzları (önizleme) | Evet (yalnızca SDK yerel modu) | Yes | |
| Azure Databricks | Evet (yalnızca SDK yerel modu) | Yes | |
| Azure Data Lake Analytics | Yes | ||
| Azure HDInsight | Yes | ||
| Azure Batch | Yes | ||
| Azure Kubernetes Service (önizleme) | Yes | Yes | Yes |
| Azure Arc Kubernetes (önizleme) | Yes | Yes | Yes |
İpucu
İşlem örneğinde 120 GB işletim sistemi diski vardır. Disk alanınız yeterli değilse, işlem örneğini durdurmadan veya yeniden başlatmadan önce terminali kullanarak en az 1-2 GB'ı silin.
bir işlem hedefine eğitim çalıştırması gönderme hakkında daha fazla bilgi.
Çıkarım için işlem hedefleri
Çıkarım yaparken Azure Machine Learning modeli ve onu kullanmak için gereken ilişkili kaynakları barındıran bir Docker kapsayıcısı oluşturur. Bu kapsayıcı daha sonra bir işlem hedefte kullanılır.
Modelinizi barındırmak için kullanabileceğiniz işlem hedefi, dağıtılan uç noktanın maliyetini ve kullanılabilirliğini etkiler. Uygun bir işlem hedefi seçmek için bu tabloyu kullanın.
| İşlem hedefi | Kullanıldığı yerler | GPU desteği | FPGA desteği | Description |
|---|---|---|---|---|
| Yerel web hizmeti | Test etme/hata ayıklama | Sınırlı test ve sorun giderme için kullanın. Donanım hızlandırma, yerel sistemde kitaplıkların kullanımına bağlıdır. | ||
| Azure Kubernetes Service (AKS) | Gerçek zamanlı çıkarım Üretim iş yükleri için önerilir. |
Evet (web hizmeti dağıtımı) | Evet | Yüksek ölçekli üretim dağıtımları için kullanın. Dağıtılan hizmetin hızlı yanıt süresi ve otomatik ölçeklendirmesi sağlar. Küme otomatik ölçeklendirme, Azure Machine Learning SDK'sı aracılığıyla desteklenmez. AKS kümesinde düğümleri değiştirmek için aks kümenizin kullanıcı arabirimini Azure portal. Tasarımcıda desteklenen. |
| Azure Container Instances | Gerçek zamanlı çıkarım Yalnızca geliştirme ve test amacıyla önerilir. |
48 GB'den az RAM gerektiren düşük ölçekli CPU tabanlı iş yükleri için kullanın. Bir kümeyi yönetmenizi gerektirmez. Tasarımcıda desteklenen. |
||
| Azure Machine Learning işlem kümeleri | Toplu çıkarım | Evet (makine öğrenmesi işlem hattı) | Sunucusuz işlemde toplu puanlama çalıştırma. Normal ve düşük öncelikli VM'leri destekler. Gerçek zamanlı çıkarım desteği yoktur. | |
| Azure Arc özellikli Kubernetes | Gerçek zamanlı çıkarım Toplu çıkarım |
Yes | Yok | Şirket içinde yönetilen şirket içi, bulut ve uç Kubernetes kümelerinde çıkarım iş yüklerini Azure Arc |
Not
Yerel ve Azure Machine Learning gibi işlem hedefleri eğitim ve deneme için GPU desteğine sahip olsa da, web hizmeti olarak dağıtıldığında çıkarım için GPU kullanmak yalnızca AKS üzerinde de kullanılabilir.
Bir makine öğrenmesi işlem hattı ile puanlama yalnızca işlem hattında puanlama için GPU Azure Machine Learning kullanılır.
Küme SKU'su seçerken, önce ölçeğini ölçeklendirin ve sonra ölçeğini ölçeklendirin. Modelinizin gerektirdiği RAM'in %150'sinde olan bir makineyle çalışmaya başlayabilir, sonucun profilini oluşturun ve ihtiyacınız olan performansa sahip bir makine bulun. Bunu öğrendikte, eş zamanlı çıkarım ihtiyacınıza uyacak şekilde makine sayısını artır.
Not
- Kapsayıcı örnekleri yalnızca boyutu 1 GB'ın altında olan küçük modeller için uygundur.
- Daha büyük modelleri geliştirme ve test etmek için tek düğümlü AKS kümelerini kullanın.
Modelinizi bir işlem hedefine nerede ve nasıl dağıtın, öğrenin.
Azure Machine Learning işlem (yönetilen)
Yönetilen bir işlem kaynağı, kaynak grubu tarafından Azure Machine Learning. Bu işlem, makine öğrenmesi iş yükleri için iyileştirilmiştir. Azure Machine Learning kümeleri ve işlem örnekleri tek yönetilen işlemdir.
aşağıdakiler gibi Azure Machine Learning örnekleri veya işlem kümeleri oluşturabilirsiniz:
- Azure Machine Learning studio.
- Python SDK'sı ve Azure CLI:
- Bir Azure Resource Manager şablonu. Örnek bir şablon için bkz. İşlem kümesi Azure Machine Learning oluşturma.
- Azure CLI için bir makine öğrenmesi uzantısı.
Bu işlem kaynakları oluşturulduğunda, diğer işlem hedeflerinin aksine otomatik olarak çalışma alanınıza eklenir.
| Özellik | İşlem kümesi | İşlem örneği |
|---|---|---|
| Tek veya çok düğümlü küme | ✓ | Tek düğümlü küme |
| Her çalıştırma gönderdiğinizde otomatik ölçeklendirmeler | ✓ | |
| Otomatik küme yönetimi ve iş zamanlaması | ✓ | ✓ |
| Hem CPU hem de GPU kaynakları için destek | ✓ | ✓ |
Not
İşlem kümesi boşta olduğunda otomatik olarak 0 düğüme ölçekler, bu nedenle kullanımda değilken ödemezsiniz. İşlem örneği her zaman açık olur ve otomatik ölçeklendirmez. Ek maliyetlerden kaçınmak için kullanmadıysanız işlem örneğini durdurmanız gerekir.
Desteklenen VM serisi ve boyutları
Yönetilen bir işlem kaynağı için bir düğüm boyutu Azure Machine Learning, Azure'da kullanılabilen vm boyutları arasından seçim yapabilirsiniz. Azure, Farklı iş yükleri için Linux ve Windows boyutları sunar. Daha fazla bilgi edinmek için bkz. VM türleri ve boyutları.
VM boyutu seçmeye ilişkin birkaç özel durum ve sınırlama vardır:
- Bazı VM serisi sanal makinelerde Azure Machine Learning.
- Bazı VM serileri kısıtlanmıştır. Kısıtlı bir seri kullanmak için de destekle iletişime geçin ve seri için kota artışı isteğinde bulundurarak. De destekle iletişim kurma hakkında bilgi için bkz. Azure desteği.
Desteklenen seriler ve kısıtlamalar hakkında daha fazla bilgi edinmek için aşağıdaki tabloya bakın.
| Desteklenen VM serisi | Kısıtlamalar | Kategori | Desteklenen: |
|---|---|---|---|
| DDSv4 | Yok. | Genel amaçlı | İşlem kümeleri ve örneği |
| Dv2 | Yok. | Genel amaçlı | İşlem kümeleri ve örneği |
| Dv3 | Yok. | Genel amaçlı | İşlem kümeleri ve örneği |
| DSv2 | Yok. | Genel amaçlı | İşlem kümeleri ve örneği |
| DSv3 | Yok. | Genel amaçlı | İşlem kümeleri ve örneği |
| EAv4 | Yok. | Bellek için iyileştirilmiş | İşlem kümeleri ve örneği |
| Ev3 | Yok. | Bellek için iyileştirilmiş | İşlem kümeleri ve örneği |
| FSv2 | Yok. | İşlem için iyileştirilmiş | İşlem kümeleri ve örneği |
| FX | Onay gerektirir. | İşlem için iyileştirilmiş | İşlem kümeleri |
| H | Yok. | Yüksek performanslı işlem | İşlem kümeleri ve örneği |
| HB | Onay gerektirir. | Yüksek performanslı işlem | İşlem kümeleri ve örneği |
| HBv2 | Onay gerektirir. | Yüksek performanslı işlem | İşlem kümeleri ve örneği |
| HBv3 | Onay gerektirir. | Yüksek performanslı işlem | İşlem kümeleri ve örneği |
| HC | Onay gerektirir. | Yüksek performanslı işlem | İşlem kümeleri ve örneği |
| LSv2 | Yok. | Depolama için iyileştirilmiş | İşlem kümeleri ve örneği |
| M | Onay gerektirir. | Bellek için iyileştirilmiş | İşlem kümeleri ve örneği |
| NC | Yok. | GPU | İşlem kümeleri ve örneği |
| NC Promosyonu | Yok. | GPU | İşlem kümeleri ve örneği |
| NCv2 | Onay gerektirir. | GPU | İşlem kümeleri ve örneği |
| NCv3 | Onay gerektirir. | GPU | İşlem kümeleri ve örneği |
| ND | Onay gerektirir. | GPU | İşlem kümeleri ve örneği |
| NDv2 | Onay gerektirir. | GPU | İşlem kümeleri ve örneği |
| NV | Yok. | GPU | İşlem kümeleri ve örneği |
| NVv3 | Onay gerektirir. | GPU | İşlem kümeleri ve örneği |
| NCasT4_v3 | Onay gerektirir. | GPU | İşlem kümeleri ve örneği |
| NDasrA100_v4 | Onay gerektirir. | GPU | İşlem kümeleri ve örneği |
Bu Azure Machine Learning vm serisini destekleyene de, tüm Azure bölgelerinde mevcut olmayacaktır. VM serisinin kullanılabilir olup olmadığını kontrol etmek için bkz. Bölgeye göre kullanılabilir ürünler.
Not
Azure Machine Learning, sanal makine tarafından desteklenen tüm VM Azure İşlem desteklemez. Kullanılabilir VM boyutlarını listeleyen aşağıdaki yöntemlerden birini kullanın:
GPU özellikli işlem hedefleri kullanıyorsanız, eğitim ortamında doğru CUDA sürücülerinin yüklü olduğundan emin olmak önemlidir. Doğru CUDA sürümünü belirlemek için aşağıdaki tabloyu kullanın:
| GPU Mimarisi | Azure VM Serisi | Desteklenen CUDA sürümleri |
|---|---|---|
| Amper | NDA100_v4 | 11.0+ |
| Turing | NCT4_v3 | 10.0+ |
| Volta | NCv3, NDv2 | 9.0+ |
| Pascal | NCv2, ND | 9.0+ |
| Maxwell | NV, NVv3 | 9.0+ |
| Kepler | NC, NC Promosyonu | 9.0+ |
CUDA sürümünün ve donanımın uyumlu olduğundan emin olmak için CUDA sürümünün, kullanmakta olduğu makine öğrenmesi çerçevesinin sürümüyle uyumlu olduğundan da emin olun:
İşlem yalıtımı
Azure Machine Learning işlem, belirli bir donanım türüne yalıtılmış ve tek bir müşteriye ayrılmış VM boyutları sunar. Yalıtılmış VM boyutları, diğer müşterilerin iş yüklerinden, Toplantı uyumluluk ve mevzuat gereksinimlerini kapsayan nedenlerle yüksek derecede yalıtım gerektiren iş yükleri için idealdir. Yalıtılmış bir boyut kullanılması, sanal makinenizin o belirli sunucu örneğinde çalışan tek bir işlem olmasını sağlar.
Geçerli yalıtılmış VM teklifleri şunları içerir:
- Standard_M128ms
- Standard_F72s_v2
- Standard_NC24s_v3
- Standard_NC24rs_v3 *
*RDMA özellikli
Yalıtım hakkında daha fazla bilgi edinmek için bkz. Azure genel bulutundaki yalıtım.
Yönetilmeyen işlem
Yönetilmeyen bir işlem hedefi Azure Machine Learning tarafından yönetilmiyor. bu tür bir işlem hedefini Azure Machine Learning dışında oluşturun ve sonra çalışma alanınıza ekleyin. Yönetilmeyen işlem kaynakları, makine öğrenimi iş yüklerinin performansını korumanız veya iyileştirebilmeniz için ek adımlar gerektirebilir.
Azure Machine Learning aşağıdaki yönetilmeyen işlem türlerini destekler:
- Yerel bilgisayarınız
- Uzak sanal makineler
- Azure HDInsight
- Azure Batch
- Azure Databricks
- Azure Data Lake Analytics
- Azure Container Örneği
- Azure Kubernetes hizmeti & Azure Arc özellikli Kubernetes (Önizleme)
Daha fazla bilgi için bkz. model eğitimi ve dağıtımı için işlem hedeflerini ayarlama
Sonraki adımlar
Şunları nasıl yapacağınızı öğrenin: