Share via

Özel Adlandırılmış Varlık Tanıma kapsayıcılarını yükleme ve çalıştırma

  • Makale

Kapsayıcılar, kendi eğitilmiş modelinizi kullanarak Özel Adlandırılmış Varlık Tanıma API'sini kendi altyapınızda barındırmanıza olanak tanır. Özel Adlandırılmış Varlık Tanıma uzaktan çağrılarak karşılanamaz güvenlik veya veri idaresi gereksinimleriniz varsa kapsayıcılar iyi bir seçenek olabilir.

Not

Önkoşullar

Gerekli parametreleri toplama

Tüm Azure AI kapsayıcıları için üç birincil parametre gereklidir. Microsoft Yazılımı Lisans Koşulları kabul değeriyle birlikte mevcut olmalıdır. Uç Nokta URI'si ve API anahtarı da gereklidir.

Uç nokta URI'si

Bu değere {ENDPOINT_URI} karşılık gelen Azure AI hizmetleri kaynağının Azure portal Genel Bakış sayfasından ulaşabilirsiniz. Genel Bakış sayfasına gidin, uç noktanın üzerine gelin ve Panoya kopyala simgesi görüntülenir. Gerektiğinde uç noktayı kopyalayın ve kullanın.

Daha sonra kullanmak üzere uç nokta URI'sini toplamayı gösteren ekran görüntüsü.

Anahtarlar

{API_KEY} Değeri kapsayıcıyı başlatmak için kullanılır ve ilgili Azure AI hizmetleri kaynağının Azure portal Anahtarlar sayfasında bulunabilir. Anahtarlar sayfasına gidin ve Panoya kopyala simgesini seçin.

Daha sonra kullanmak üzere iki anahtardan birini almayı gösteren ekran görüntüsü.

Önemli

Bu abonelik anahtarları, Azure AI hizmetleri API'nize erişmek için kullanılır. Anahtarlarınızı paylaşmayın. Bunları güvenli bir şekilde depolayın. Örneğin Azure Key Vault kullanın. Ayrıca bu anahtarları düzenli olarak yeniden oluşturmanızı öneririz. API çağrısı yapmak için yalnızca bir anahtar gereklidir. İlk anahtarı yeniden oluştururken, hizmete sürekli erişim için ikinci anahtarı kullanabilirsiniz.

Konak bilgisayar gereksinimleri ve önerileri

Konak, Docker kapsayıcısını çalıştıran x64 tabanlı bir bilgisayardır. Şirket içi bir bilgisayar veya Azure'da Docker barındırma hizmeti olabilir, örneğin:

Aşağıdaki tabloda Özel Adlandırılmış Varlık Tanıma kapsayıcıları için en düşük ve önerilen belirtimler açıklanmaktadır. Her CPU çekirdeği en az 2,6 gigahertz (GHz) veya daha hızlı olmalıdır. İzin verilen Saniye Başına İşlem sayısı (TPS) de listelenir.

En düşük konak belirtimleri Önerilen konak özellikleri En Düşük TPS En Fazla TPS
Özel Adlandırılmış Varlık Tanıma 1 çekirdek, 2 GB bellek 1 çekirdek, 4 GB bellek 15 30

CPU çekirdeği ve bellek, komutun --cpus bir parçası olarak kullanılan ve --memory ayarlarına docker run karşılık gelir.

Özel Adlandırılmış Varlık Tanıma modelinizi dışarı aktarma

Docker görüntüsünü çalıştırmaya devam etmeden önce kendi eğitilmiş modelinizi dışarı aktararak kapsayıcınıza sunmanız gerekir. Modelinizi ayıklamak ve aşağıdaki yer tutucuları kendi değerlerinizle değiştirmek için aşağıdaki komutu kullanın:

Yer tutucu Değer Biçim veya örnek
{API_KEY} Özel Adlandırılmış Varlık Tanıma kaynağınızın anahtarı. Bunu kaynağınızın Anahtar ve uç nokta sayfasında, Azure portal bulabilirsiniz. xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
{ENDPOINT_URI} Özel Adlandırılmış Varlık Tanıma API'sine erişmek için uç nokta. Bunu kaynağınızın Anahtar ve uç nokta sayfasında, Azure portal bulabilirsiniz. https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT_NAME} Dışarı aktarmak istediğiniz modeli içeren projenin adı. Bunu Language Studio portalındaki projeler sekmenizde bulabilirsiniz. myProject
{TRAINED_MODEL_NAME} Dışarı aktarmak istediğiniz eğitilmiş modelin adı. Eğitilen modellerinizi Language Studio portalında projenizin altındaki model değerlendirme sekmesinde bulabilirsiniz. myTrainedModel 
curl --location --request PUT '{ENDPOINT_URI}/language/authoring/analyze-text/projects/{PROJECT_NAME}/exported-models/{TRAINED_MODEL_NAME}?api-version=2023-04-15-preview' \
--header 'Ocp-Apim-Subscription-Key: {API_KEY}' \
--header 'Content-Type: application/json' \
--data-raw '{
    "TrainedmodelLabel": "{TRAINED_MODEL_NAME}"
}'

ile kapsayıcı görüntüsünü alma docker pull

Özel Adlandırılmış Varlık Tanıma kapsayıcı görüntüsü, kapsayıcı kayıt defteri dağıtımında mcr.microsoft.com bulunabilir. Depo içinde azure-cognitive-services/textanalytics/ bulunur ve olarak adlandırılır customner. Tam kapsayıcı görüntüsü adı şeklindedir mcr.microsoft.com/azure-cognitive-services/textanalytics/customner.

Kapsayıcının en son sürümünü kullanmak için etiketini kullanabilirsiniz latest . McR'de etiketlerin tam listesini de bulabilirsiniz.

docker pull Microsoft Container Registry'den kapsayıcı görüntüsü indirmek için komutunu kullanın.

docker pull mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest

İpucu

İndirilen kapsayıcı görüntülerinizi listelemek için docker images komutunu kullanabilirsiniz. Örneğin, aşağıdaki komut indirilen her kapsayıcı görüntüsünün kimliğini, deposunu ve etiketini tablo olarak biçimlendirilmiş olarak listeler:

docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}"

IMAGE ID         REPOSITORY                TAG
<image-id>       <repository-path/name>    <tag-name>

Kapsayıcıyı ile çalıştırma docker run

Kapsayıcı ana bilgisayara yüklendikten sonra docker run komutunu kullanarak kapsayıcıları çalıştırın. Siz durdurana kadar kapsayıcı çalışmaya devam eder.

Önemli

  • Aşağıdaki bölümlerde yer alan docker komutları, satır devamlılığı karakteri olarak ters eğik çizgiyi \kullanır. Bunu ana bilgisayar işletim sisteminizin gereksinimlerine göre değiştirin veya kaldırın.
  • Kapsayıcıyı Eulaçalıştırmak için , Billingve ApiKey seçenekleri belirtilmelidir; aksi takdirde kapsayıcı başlatılmaz. Daha fazla bilgi için bkz . Faturalama.

Özel Adlandırılmış Varlık Tanıma kapsayıcısını çalıştırmak için aşağıdaki docker run komutu yürütür. Aşağıdaki yer tutucuları kendi değerlerinizle değiştirin:

Yer tutucu Değer Biçim veya örnek
{API_KEY} Özel Adlandırılmış Varlık Tanıma kaynağınızın anahtarı. Bunu kaynağınızın Anahtar ve uç nokta sayfasında, Azure portal bulabilirsiniz. xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
{ENDPOINT_URI} Özel Adlandırılmış Varlık Tanıma API'sine erişmek için uç nokta. Bunu kaynağınızın Anahtar ve uç nokta sayfasında, Azure portal bulabilirsiniz. https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT_NAME} Dışarı aktarmak istediğiniz modeli içeren projenin adı. Bunu Language Studio portalındaki projeler sekmenizde bulabilirsiniz. myProject
{LOCAL_PATH} Önceki adımda dışarı aktarılan modelin indirileceği yol. İstediğiniz yolu seçebilirsiniz. C:/custom-ner-model
{TRAINED_MODEL_NAME} Dışarı aktarmak istediğiniz eğitilen modelin adı. Eğitilen modellerinizi language Studio portalındaki projenizin altındaki model değerlendirme sekmesinde bulabilirsiniz. myTrainedModel 
docker run --rm -it -p5000:5000  --memory 4g --cpus 1 \
-v {LOCAL_PATH}:/modelPath \
mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest \
EULA=accept \
BILLING={ENDPOINT_URI} \
APIKEY={API_KEY} \
projectName={PROJECT_NAME}
exportedModelName={TRAINED_MODEL_NAME}

Şu komut:

  • Özel Adlandırılmış Varlık Tanıma kapsayıcısını çalıştırır ve dışarı aktarılan modelinizi belirtilen yerel yola indirir.
  • Bir CPU çekirdeği ve 4 gigabayt (GB) bellek ayırır
  • TCP bağlantı noktası 5000'i kullanıma sunar ve kapsayıcı için sahte bir TTY ayırır
  • Kapsayıcı çıktıktan sonra otomatik olarak kaldırılır. Kapsayıcı görüntüsü ana bilgisayarda hala kullanılabilir.

Aynı konakta birden çok kapsayıcı çalıştırma

Kullanıma sunulan bağlantı noktalarıyla birden çok kapsayıcı çalıştırmak istiyorsanız, her kapsayıcıyı farklı bir kullanıma sunulan bağlantı noktasıyla çalıştırdığınızdan emin olun. Örneğin, ilk kapsayıcıyı 5000 numaralı bağlantı noktasında, ikinci kapsayıcıyı da 5001 numaralı bağlantı noktasında çalıştırın.

Bu kapsayıcıyı ve HOST üzerinde çalışan farklı bir Azure AI hizmetleri kapsayıcısını birlikte kullanabilirsiniz. Aynı Azure AI hizmetleri kapsayıcısının birden çok kapsayıcısını da çalıştırabilirsiniz.

Kapsayıcının tahmin uç noktasını sorgulama

Kapsayıcı REST tabanlı sorgu tahmin uç noktası API’lerini sağlar.

Kapsayıcı API’leri için http://localhost:5000 konağını kullanın.

Kapsayıcının çalıştığını doğrulama

Kapsayıcının çalıştığını doğrulamanın çeşitli yolları vardır. Dış IP adresini ve söz konusu kapsayıcının kullanıma sunulan bağlantı noktasını bulun ve sık kullandığınız web tarayıcısını açın. Kapsayıcının çalıştığını doğrulamak için aşağıdaki çeşitli istek URL'lerini kullanın. Burada listelenen örnek istek URL'leri şunlardır http://localhost:5000; ancak kapsayıcınız farklılık gösterebilir. Kapsayıcınızın Dış IP adresine ve kullanıma sunulan bağlantı noktasına bağlı olduğundan emin olun.

İstek URL’si Amaç
http://localhost:5000/ Kapsayıcı bir giriş sayfası sağlar.
http://localhost:5000/ready GET ile istenen bu URL, kapsayıcının modele yönelik bir sorguyu kabul etmeye hazır olduğuna ilişkin bir doğrulama sağlar. Bu istek Kubernetes canlılığı ve hazır olma yoklamaları için kullanılabilir.
http://localhost:5000/status GET ile de istenen bu URL, kapsayıcıyı başlatmak için kullanılan api anahtarının uç nokta sorgusuna neden olmadan geçerli olup olmadığını doğrular. Bu istek Kubernetes canlılığı ve hazır olma yoklamaları için kullanılabilir.
http://localhost:5000/swagger Kapsayıcı uç noktalar için tüm belgeleri ve bir de Deneyin özelliği sağlar. Bu özellik sayesinde, ayarlarınızı web tabanlı bir HTML formuna girebilir ve herhangi bir kod yazmak zorunda kalmadan sorguyu yapabilirsiniz. Sorgu döndürdüğünde, gerekli HTTP üst bilgilerini ve gövde biçimini göstermek için örnek bir CURL komutu sağlanır.

Kapsayıcının giriş sayfası

Kapsayıcıyı durdurma

Kapsayıcıyı kapatmak için, kapsayıcının çalıştığı komut satırı ortamında Ctrl+C tuşlarını seçin.

Sorun giderme

Kapsayıcıyı bir çıkış bağlaması ve günlüğe kaydetme etkin olarak çalıştırırsanız kapsayıcı, kapsayıcıyı başlatırken veya çalıştırırken karşılaşılan sorunları gidermeye yardımcı olan günlük dosyaları oluşturur.

İpucu

Daha fazla sorun giderme bilgisi ve rehberlik için bkz. Azure AI kapsayıcıları hakkında sık sorulan sorular (SSS).

Faturalama

Özel Adlandırılmış Varlık Tanıma kapsayıcıları, Azure hesabınızdaki Özel Adlandırılmış Varlık Tanıma kaynağını kullanarak faturalama bilgilerini Azure'a gönderir.

Kapsayıcıya yönelik sorgular, parametre için kullanılan Azure kaynağının fiyatlandırma katmanında ApiKey faturalandırılır.

Azure AI hizmetleri kapsayıcıları, ölçüm veya faturalama uç noktasına bağlanmadan çalıştırılma lisansına sahip değildir. Kapsayıcıların faturalama bilgilerini faturalama uç noktasıyla her zaman iletmesini etkinleştirmeniz gerekir. Azure AI hizmetleri kapsayıcıları, analiz edilen görüntü veya metin gibi müşteri verilerini Microsoft'a göndermez.

Azure'a Bağlanma

Kapsayıcının çalışması için faturalama bağımsız değişkeni değerleri gerekir. Bu değerler kapsayıcının faturalama uç noktasına bağlanmasına olanak sağlar. Kapsayıcı yaklaşık 10-15 dakikada bir kullanımı bildirir. Kapsayıcı izin verilen zaman penceresi içinde Azure'a bağlanmazsa, kapsayıcı çalışmaya devam eder ancak faturalama uç noktası geri yüklenene kadar sorgu sunmaz. Bağlantı 10 ile 15 dakika aynı zaman aralığında 10 kez denenir. 10 denemede faturalama uç noktasına bağlanamazsa kapsayıcı isteklerin sunulmasını durdurur. Faturalama için Microsoft'a gönderilen bilgilerin bir örneği için bkz. Azure AI hizmetleri kapsayıcısı hakkında SSS .

Faturalama bağımsız değişkenleri

Aşağıdaki docker run seçeneklerin üçü de geçerli değerlerle sağlandığında komut kapsayıcıyı başlatır:

Seçenek Açıklama
ApiKey Faturalama bilgilerini izlemek için kullanılan Azure AI hizmetleri kaynağının API anahtarı.
Bu seçeneğin değeri, içinde Billingbelirtilen sağlanan kaynak için bir API anahtarına ayarlanmalıdır.
Billing Faturalama bilgilerini izlemek için kullanılan Azure AI hizmetleri kaynağının uç noktası.
Bu seçeneğin değeri, sağlanan bir Azure kaynağının uç nokta URI'sine ayarlanmalıdır.
Eula Kapsayıcının lisansını kabul ettiğinizi gösterir.
Bu seçeneğin değeri kabul edilecek şekilde ayarlanmalıdır.

Özet

Bu makalede, Özel Adlandırılmış Varlık Tanıma kapsayıcılarını indirmeye, yüklemeye ve çalıştırmaya yönelik kavramları ve iş akışını öğrendiniz. Özet:

  • Özel Adlandırılmış Varlık Tanıma, Docker için Linux kapsayıcıları sağlar.
  • Kapsayıcı görüntüleri Microsoft Container Registry'den (MCR) indirilir.
  • Kapsayıcı görüntüleri Docker'da çalışır.
  • Kapsayıcının konak URI'sini belirterek Özel Adlandırılmış Varlık Tanıma kapsayıcılarındaki işlemleri çağırmak için REST API veya SDK kullanabilirsiniz.
  • Kapsayıcı örneği oluştururken faturalama bilgilerini belirtmeniz gerekir.

Önemli

Azure AI kapsayıcıları, ölçüm için Azure'a bağlanmadan çalıştırılma lisansına sahip değildir. Müşterilerin, kapsayıcıların faturalama bilgilerini ölçüm hizmetiyle her zaman iletmesini sağlaması gerekir. Azure AI kapsayıcıları müşteri verilerini (örneğin analiz edilen metinler) Microsoft'a göndermez.

Sonraki adımlar