Azure OpenAI Service maliyetlerini yönetmek için planlama
Bu makalede, Azure OpenAI Hizmeti için maliyetleri nasıl planlayabileceğiniz ve yönetebileceğiniz açıklanır. Hizmeti dağıtmadan önce Azure OpenAI maliyetlerini tahmin etmek için Azure fiyatlandırma hesaplayıcısını kullanın. Daha sonra Azure kaynaklarını dağıtırken tahmini maliyetleri gözden geçirin. Azure OpenAI kaynaklarını kullanmaya başladıktan sonra, bütçeleri ayarlamak ve maliyetleri izlemek için Maliyet Yönetimi özelliklerini kullanın.
Ayrıca tahmin edilen maliyetleri gözden geçirebilir ve harekete geçmek isteyebileceğiniz alanları belirlemek için harcama eğilimlerini belirleyebilirsiniz. Azure OpenAI Hizmeti maliyetleri, Azure faturanızdaki aylık maliyetlerin yalnızca bir kısmıdır. Bu makale Azure OpenAI maliyetlerini planlama ve yönetme hakkında olsa da, üçüncü taraf hizmetler de dahil olmak üzere Azure aboneliğinizde kullanılan tüm Azure hizmetleri ve kaynakları için faturalandırılırsınız.
Önkoşullar
Maliyet Yönetimi'nde maliyet analizi çoğu Azure hesap türünü destekler, ancak tümünü desteklemez. Desteklenen hesap türlerinin tam listesini görüntülemek için, bkz. Maliyet Yönetimi verilerini anlama. Maliyet verilerini görüntülemek için azure hesabı için en azından okuma erişimine sahip olmanız gerekir. Azure Maliyet Yönetimi verilerine erişim atama hakkında daha fazla bilgi için bkz. Verilere erişim atama.
Azure OpenAI'i kullanmadan önce maliyetleri tahmin edin
Azure OpenAI'yi kullanmanın maliyetlerini tahmin etmek için Azure fiyatlandırma hesaplayıcısını kullanın.
Azure OpenAI tam faturalama modelini anlama
Azure OpenAI Hizmeti, yeni kaynakları dağıttığınızda maliyetleri tahakkuk ettiren Azure altyapısı üzerinde çalışır. Tahakkuk edebilecek başka altyapı maliyetleri de olabilir. Aşağıdaki bölümlerde Azure OpenAI Hizmeti için nasıl ücretlendirildiğiniz açıklanmaktadır.
Temel seriler ve Codex serisi modelleri
Azure OpenAI temel serisi ve Codex serisi modelleri 1.000 belirteç başına ücretlendirilir. Maliyetler, şu model serilerinden hangisini seçtiğinize bağlı olarak değişir: Ada, Babbage, Curie, Davinci veya Code-Cushman.
Azure OpenAI modelleri, metinleri belirteçlere ayırarak anlar ve işler. Başvuru için, genel İngilizce metinlerde her belirteç kabaca dört karaktere tekabül eder.
Belirteç maliyetleri hem giriş hem de çıkış içindir. Örneğin, Azure OpenAI modelinin Python'a dönüştürülmesini istediğiniz 1.000 belirteçli bir JavaScript kod örneğinin olduğunu varsayalım. Gönderilen ilk giriş isteği için yaklaşık 1.000 belirteç ve toplam 2.000 belirteç için yanıt olarak alınan çıkış için 1.000 belirteç daha ücretlendirilirsiniz.
Uygulamada, bu tür bir tamamlama çağrısı için belirteç girişi/çıkışı tam olarak 1:1 olmaz. Bir programlama dilinden diğerine dönüştürme işlemi, birçok faktöre bağlı olarak daha uzun veya daha kısa bir çıkışa neden olabilir. Böyle bir faktör, parametresine max_tokens atanan değerdir.
Temel Seri ve Codex serisi ince ayarlı modeller
Azure OpenAI hassas ayarlı modeller üç faktöre göre ücretlendirilir:
- Eğitim saatleri
- Barındırma saatleri
- 1\.000 belirteç başına çıkarım
İyi ayarlanmış bir model dağıtıldıktan sonra etkin bir şekilde kullanıp kullanmadığınıza bakılmaksızın saatlik maliyet uygulanmaya devam ettiğinden barındırma saatleri maliyeti dikkate alınmalıdır. İnce ayarlı model maliyetlerini yakından izleyin.
Önemli
Özelleştirilmiş bir modeli dağıttıktan sonra, herhangi bir zamanda dağıtım on beş (15) günden uzun süre etkin değilse dağıtım silinir. Model on beşten (15) gün önce dağıtıldıysa ve sürekli 15 günlük bir süre boyunca buna hiçbir tamamlama veya sohbet tamamlama çağrısı yapılmadıysa, özelleştirilmiş bir modelin dağıtımı devre dışı bırakılır.
Etkin olmayan bir dağıtımın silinmesi, temel alınan özelleştirilmiş modeli silmez veya etkilemez ve özelleştirilmiş model istediğiniz zaman yeniden dağıtılabilir.
Dağıtılan her özelleştirilmiş (ince ayarlı) model, modele tamamlama veya sohbet tamamlama çağrıları yapılıp yapılmamasına bakılmaksızın saatlik barındırma maliyetine neden olur. .
Azure OpenAI Hizmeti ile tahakkuk eden diğer maliyetler
Azure İzleyici Günlüklerine veri gönderme ve uyarı verme gibi özelliklerin etkinleştirilmesi bu hizmetler için ek maliyetler doğurabilir. Bu maliyetler diğer hizmetlerin altında ve abonelik düzeyinde görünebilir, ancak yalnızca Azure OpenAI kaynağınız kapsamında olduğunda görünmez.
Azure OpenAI Hizmeti ile Azure Ön Ödemesi Kullanma
Azure Ön Ödeme kredinizle Azure OpenAI Hizmeti ücretleri için ödeme yapabilirsiniz. Bununla birlikte, Azure Market bulunan ürünler ve hizmetler dahil olmak üzere üçüncü taraf ürün ve hizmetlerin ücretlerini ödemek için Azure Ön Ödeme kredisini kullanamazsınız.
Azure OpenAI Hizmeti'nde HTTP Hata yanıt kodu ve faturalama durumu
Hizmet işleme gerçekleştirirse, durum kodu başarılı olmasa bile (200 değil) ücretlendirilebilirsiniz. Örneğin, içerik filtresi veya giriş sınırı nedeniyle 400 hatası veya zaman aşımı nedeniyle 408 hatası.
Hizmet işleme gerçekleştirmezse sizden ücret alınmaz. Örneğin, kimlik doğrulamasından kaynaklanan bir 401 hatası veya Hız Sınırını aştığı için 429 hatası.
Maliyetleri izleme
Azure OpenAI ile Azure kaynaklarını kullanırken maliyetler oluşur. Azure kaynak kullanım birimi maliyetleri saniye, dakika, saat ve gün gibi zaman aralıklarına veya bayt ve megabayt gibi birim kullanımına göre farklılık gösterir. Azure OpenAI kullanımı başlar başlamaz maliyetler tahakkuk edebilir ve maliyetleri maliyet analizinde görebilirsiniz.
Maliyet analizini kullandığınızda Azure OpenAI maliyetlerini farklı zaman aralıkları için grafikler ve tablolarda görüntülersiniz. Bazı örnekler güne, geçerli ve önceki aya ve yıla göredir. Ayrıca bütçelere ve tahmin edilen maliyetlere göre maliyetleri de görüntüleyebilirsiniz. Zaman içinde daha uzun görünümlere geçmek, harcama eğilimlerini belirlemenize yardımcı olabilir. Fazla harcamanın nerede gerçekleşebileceğini görebilirsiniz. Bütçe oluşturduysanız bunların aşıldığı yeri de kolayca görebilirsiniz.
Azure OpenAI maliyetlerini maliyet analizinde görüntülemek için:
- Azure Portal’ında oturum açın.
- Azure OpenAI kaynaklarınızdan birini seçin.
- Kaynak Yönetimi'nin altında Maliyet analizi'ne tıklayın
- Varsayılan olarak, maliyet analizinin kapsamı tek tek Azure OpenAI kaynağı olarak belirlenmiştir.
Bu maliyeti neyin oluşturduğuna ilişkin dökümü anlamak için Gruplandırma ölçütü'nü Ölçüm olarak değiştirmek ve grafik türünü Çizgi olarak değiştirmek yararlı olabilir. Artık bu kaynak için maliyetlerin kaynağının, maliyetlerin büyük bölümünü temsil eden Text-Davinci Belirteçleri ile üç farklı model serisinden geldiğini görebilirsiniz.
Azure OpenAI ile ilişkili maliyetleri değerlendirirken kapsamı anlamanız önemlidir. Kaynaklarınız aynı kaynak grubunun parçasıysa maliyetler üzerindeki etkisini anlamak için Maliyet Analizi'ni bu düzeyde kapsamlayabilirsiniz. Kaynaklarınız birden çok kaynak grubuna yayılmışsa kapsamı abonelik düzeyine göre ayarlayabilirsiniz.
Kapsamı daha yüksek bir düzeyde olduğunda, Azure OpenAI kullanımına odaklanmak için genellikle daha fazla filtre eklemeniz gerekir. Kapsamı abonelik düzeyinde olduğunda, Azure OpenAI maliyet yönetimi bağlamında önem vermeyebilecek birçok kaynak daha görürsünüz. Abonelik düzeyinde kapsam oluşturduğunuzda, Maliyet Yönetimi hizmeti altındaki tam Maliyet analizi aracınagitmenizi öneririz.
Aşağıda, bir abonelik veya kaynak grubu için birikmiş maliyetlerinizi görmek için Maliyet analizi aracının nasıl kullanılacağına ilişkin bir örnek verilmiştir:
- Bütçe oluşturma gibi daha fazla seçenek içeren tam hizmet deneyimine gitmek için üst Azure arama çubuğunda Maliyet Yönetimi'ni arayın.
- Gerekirse, Kapsam: çözümlemek istediğiniz kaynak grubunu veya aboneliği göstermiyorsa değiştir'i seçin.
- Sol tarafta Raporlama + analiz>Maliyet analizi'ni seçin.
- Tüm görünümler sekmesinde Birikmiş maliyetler'i seçin.
Maliyet analizi panosu, Kapsam için ne belirttiğinize bağlı olarak analiz edilen birikmiş maliyetleri gösterir.
Hizmete göre filtre eklemeye çalışırsanız, Azure OpenAI'yi listede bulamazsınız. Bu durumun nedeni Azure OpenAI'nin hizmet düzeyi filtresinin Bilişsel Hizmetler olduğu Azure AI hizmetlerinin bir alt kümesiyle ortak olmasıdır. Abonelik genelindeki tüm Azure OpenAI kaynaklarını başka türde Azure AI hizmetleri kaynağı olmadan görmek istiyorsanız, bunun yerine Hizmet katmanı kapsamı : Azure OpenAI:
Bütçe oluşturma
Maliyetleri yönetmek için bütçeler oluşturabilir ve paydaşlara harcama anomalilerini ve fazla harcama risklerini bildiren uyarılar oluşturabilirsiniz. Uyarılar, bütçe ve maliyet eşiklerine kıyasla harcamaya göre belirlenir. Azure abonelikleri ve kaynak grupları için bütçeler ve uyarılar oluşturursunuz. Bunlar, genel maliyet izleme stratejisinin bir parçası olarak kullanışlıdır.
İzlemenizde daha fazla ayrıntı düzeyi olmasını istiyorsanız Azure'daki belirli kaynaklar veya hizmetler için filtrelerle bütçe oluşturabilirsiniz. Filtreler, yanlışlıkla size daha fazla paraya mal olan yeni kaynaklar oluşturmamanıza yardımcı olur. Bütçe oluştururken kullanılabilen filtre seçenekleri hakkında daha fazla bilgi için bkz . Grup ve filtre seçenekleri.
Önemli
OpenAI,bütçenizi aşmanızı engelleyen sabit sınırlar için bir seçeneğe sahip olsa da, Azure OpenAI şu anda bu işlevselliği sağlamaz. Daha gelişmiş eylemler yapmak için bütçe bildirimlerinizin bir parçası olarak eylem gruplarından otomasyon başlatabilirsiniz, ancak bu sizin için ek özel geliştirme gerektirir.
Maliyet verilerini dışarı aktarma
Maliyet verilerinizi bir depolama hesabına da aktarabilirsiniz. Bu, başkalarının maliyetler için ek veri analizi yapması gerektiğinde yararlı olur. Örneğin, finans ekibi Excel veya Power BI kullanarak verileri analiz edebilir. Maliyetlerinizi günlük, haftalık veya aylık bir zamanlamaya göre dışarı aktarabilir ve özel bir tarih aralığı ayarlayabilirsiniz. Maliyet veri kümelerini alma yolu olarak maliyet verilerini dışarı aktarmanızı öneririz.
Sonraki adımlar
- Azure Maliyet Yönetimi ile bulut yatırımınızı iyileştirmeyi öğrenin.
- Maliyet analizi ile maliyetleri yönetme hakkında daha fazla bilgi edinin.
- Beklenmeyen maliyetleri önleme hakkında bilgi edinin.
- Maliyet Yönetimi destekli öğrenme kursuna katılın.