Azure Container Örneğinde kapsayıcı dağıtma ve çalıştırma

  • Makale

Aşağıdaki adımlarla Azure AI hizmetleri uygulamalarını Azure Container Instances ile bulutta kolayca ölçeklendirin. Kapsayıcıya alma, altyapıyı yönetmek yerine uygulamalarınızı oluşturmaya odaklanmanıza yardımcı olur. Kapsayıcıları kullanma hakkında daha fazla bilgi için bkz. Özellikler ve avantajlar.

Önkoşullar

Tarif, herhangi bir Azure AI hizmetleri kapsayıcısıyla çalışır. Tarifi kullanmadan önce Azure AI hizmetleri kaynağının oluşturulması gerekir. Kapsayıcıları destekleyen her Azure AI hizmetinin, kapsayıcı için hizmeti yükleme ve yapılandırmaya yönelik bir "Nasıl yüklenir" makalesi vardır. Bazı hizmetler, kapsayıcı için giriş olarak bir dosya veya dosya kümesi gerektirir; bu çözümü kullanmadan önce kapsayıcıyı anlamanız ve başarıyla kullanmanız önemlidir.

  • Kullandığınız Azure AI hizmeti için bir Azure kaynağı.

  • Azure AI hizmeti kaynak uç noktası URL'si - Uç nokta URL'sinin Azure portal içinde nerede olduğunu ve URL'nin doğru örneğini bulmak için kapsayıcı için belirli hizmetinizin "Nasıl yüklenir" bölümünü gözden geçirin. Tam biçim hizmetten hizmete değişebilir.

  • Azure AI hizmeti kaynak anahtarı : Anahtarlar, Azure kaynağının Anahtarlar sayfasındadır. İki anahtardan yalnızca birine ihtiyacınız vardır. Anahtar, 32 alfasayısal karakterden oluşan bir dizedir.

  • Yerel konağınızdaki (bilgisayarınız) tek bir Azure AI hizmetleri kapsayıcısı. Yapabileceklerinize emin olun:

    • Komutuyla docker pull görüntüyü aşağı çekin.
    • Bir komutla tüm gerekli yapılandırma ayarlarıyla docker run yerel kapsayıcıyı başarıyla çalıştırın.
    • HTTP 2xx yanıtını ve JSON yanıtını geri alarak kapsayıcının uç noktasını çağırın.

Açılı ayraç içindeki <>tüm değişkenlerin kendi değerlerinizle değiştirilmesi gerekir. Bu değiştirme açılı ayraçları içerir.

Önemli

LUIS kapsayıcısı, çalışma zamanında çekilen bir .gz model dosyası gerektirir. Kapsayıcının, kapsayıcı örneğinden bir birim bağlama yoluyla bu model dosyasına erişebilmesi gerekir. Bir model dosyasını karşıya yüklemek için şu adımları izleyin:

  1. Azure dosya paylaşımı oluşturun. Azure Depolama hesap adı, anahtar ve dosya paylaşımı adı değerlerini not alın çünkü bunlar daha sonra gerekecektir.
  2. LUIS modelinizi (paketlenmiş uygulama) LUIS portalından dışarı aktarın.
  3. Azure portal depolama hesabı kaynağınızın Genel Bakış sayfasına gidin ve Dosya paylaşımları'nı seçin.
  4. Son oluşturduğunuz dosya paylaşımı adını seçin ve ardından Karşıya Yükle'yi seçin. Ardından paketlenmiş uygulamanızı karşıya yükleyin.

Azure portal kullanarak Azure Container Instance kaynağı oluşturma

  1. Container Instances için Oluştur sayfasına gidin.

  2. Temel Bilgiler sekmesinde aşağıdaki ayrıntıları girin:

    Ayar Değer
    Abonelik Aboneliğinizi seçin.
    Kaynak grubu Kullanılabilir kaynak grubunu seçin veya gibi cognitive-servicesyeni bir kaynak grubu oluşturun.
    Kapsayıcı adı gibi cognitive-container-instancebir ad girin. Adın büyük harfle yazılması gerekir.
    Konum Dağıtım için bir bölge seçin.
    Görüntü türü Kapsayıcı görüntünüz kimlik bilgileri gerektirmeyen bir kapsayıcı kayıt defterinde depolanıyorsa öğesini seçin Public. Kapsayıcı görüntünüze erişmek için kimlik bilgileri gerekiyorsa öğesini seçin Private. Kapsayıcı görüntüsünün PublicPrivate veya ("Genel Önizleme") olup olmadığıyla ilgili ayrıntılar için kapsayıcı depolarına ve görüntülerine bakın.
    Görüntü adı Azure AI hizmetleri kapsayıcı konumunu girin. Konum, komutun bağımsız değişkeni olarak kullanılan konumdur docker pull . Kullanılabilir görüntü adları ve bunlara karşılık gelen depolar için kapsayıcı depolarına ve görüntülerine bakın.

    Görüntü adı üç bölüm belirterek tam olarak nitelenmiş olmalıdır. İlk olarak kapsayıcı kayıt defteri, ardından depo, son olarak görüntü adı: <container-registry>/<repository>/<image-name>.

    Aşağıda, mcr.microsoft.com/azure-cognitive-services/keyphrase Azure AI hizmetleri deposunun altındaki Microsoft Container Registry'deki Anahtar İfade Ayıklama görüntüsünü temsil eden bir örnek verilmiştir. Başka bir örnek de, containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text Container Preview kapsayıcı kayıt defterinin Microsoft deposundaki Konuşmayı metne dönüştürme görüntüsünü temsil eder.
    İşletim sistemi türü Linux
    Boyut Boyutu, belirli Azure AI kapsayıcınız için önerilen önerilerle değiştirin:
    2 CPU çekirdeği
    4 GB

  3. Ağ sekmesinde aşağıdaki ayrıntıları girin:

    Ayar Değer
    Bağlantı noktaları TCP bağlantı noktasını olarak 5000ayarlayın. Kapsayıcıyı 5000 numaralı bağlantı noktasında kullanıma sunar.

  4. Gelişmiş sekmesinde, Azure Container Instance kaynağının kapsayıcı faturalama ayarları için gerekli Ortam Değişkenlerini girin:

    Anahtar Değer
    ApiKey Kaynağın Anahtarlar ve uç nokta sayfasından kopyalanır. Boşluk veya tire xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxiçermeyen 32 alfasayısal karakter dizesidir.
    Billing Uç nokta URL'niz kaynağın Anahtarlar ve uç nokta sayfasından kopyalanır.
    Eula accept

  5. Gözden Geçir ve Oluştur'u seçin

  6. Doğrulama başarılı olduktan sonra oluşturma işlemini tamamlamak için Oluştur'a tıklayın

  7. Kaynak başarıyla dağıtıldığında hazır olur

Kapsayıcı Örneğini Kullanma

  1. Genel Bakış'ı seçin ve IP adresini kopyalayın. Gibi 55.55.55.55sayısal bir IP adresi olacaktır.

  2. Yeni bir tarayıcı sekmesi açın ve IP adresini kullanın, örneğin, http://<IP-address>:5000 (http://55.55.55.55:5000). Kapsayıcının çalıştığını bildiren giriş sayfasını görürsünüz.

    Kapsayıcının giriş sayfası

  3. Kapsayıcının swagger sayfasını görüntülemek için Hizmet API'sinin Açıklaması'nı seçin.

  4. POST API'lerinden herhangi birini seçin ve Deneyin'i seçin. Giriş dahil olmak üzere parametreler görüntülenir. Parametreleri doldurun.

  5. İsteği Kapsayıcı Örneğiniz'e göndermek için Yürüt'e tıklayın.

    Azure Container Instance'da Azure AI kapsayıcılarını başarıyla oluşturdunuz ve kullandınız.