RAG kullanarak Python kurumsal sohbet örneğini kullanmaya başlama

Bu makalede Python için Kurumsal sohbet uygulaması örneğinin nasıl dağıtılacağı ve çalıştırılacağı gösterilmektedir. Bu örnek, kurgusal bir şirkette çalışan avantajları hakkında yanıtlar almak için Azure AI Search'te Python, Azure OpenAI Hizmeti ve Alma Artırılmış Nesli (RAG) kullanan bir sohbet uygulaması uygular. Uygulama, çalışan el kitabı, avantajlar belgesi ve şirket rollerinin ve beklentilerinin listesi de dahil olmak üzere PDF dosyalarıyla birlikte dağıtılır.

• Tanıtım videosu

Şimdi başlayın

Bu makaledeki yönergeleri izleyerek şunları yapacaksınız:

• Azure'a bir sohbet uygulaması dağıtma.
• Çalışan avantajları hakkında yanıtlar alın.
• Yanıtların davranışını değiştirmek için ayarları değiştirin.

Bu yordamı tamamladıktan sonra, özel kodunuzla yeni projeyi değiştirmeye başlayabilirsiniz.

Bu makale, Azure OpenAI Hizmeti ve Azure AI Search kullanarak nasıl sohbet uygulaması oluşturabileceğinizi gösteren makale koleksiyonunun bir parçasıdır.

Koleksiyondaki diğer makaleler şunlardır:

• .NET
• Java
• JavaScript
• JavaScript ön ucu + Python arka ucu

Mimariye genel bakış

Aşağıdaki diyagramda sohbet uygulamasının basit bir mimarisi gösterilmiştir:

Mimarinin temel bileşenleri şunlardır:

• Etkileşimli sohbet deneyimini barındırmak için bir web uygulaması.
• Kendi verilerinizden yanıt almak için bir Azure AI Search kaynağı.
• Sağlayabilecek bir Azure OpenAI Hizmeti:
  • Kendi verileriniz üzerinde aramayı geliştirmek için anahtar sözcükler.
  • OpenAI modelinden gelen yanıtlar.
  • Ada modelinden eklemeler

Maliyet

Bu mimarideki kaynakların çoğu temel veya tüketim fiyatlandırma katmanını kullanır. Tüketim fiyatlandırması kullanımı temel alır ve bu da yalnızca kullandığınız kadar ödeme yaptığınız anlamına gelir. Bu makaleyi tamamlamak için ücret tahsil edilecektir ancak çok az olacaktır. Makaleyi tamamladığınızda, ücretlendirmeyi durdurmak için kaynakları silebilirsiniz.

Örnek depoda maliyet hakkında daha fazla bilgi edinin.

Önkoşullar

Bu makaleyi tamamlamak için gereken tüm bağımlılıklarla birlikte bir geliştirme kapsayıcısı ortamı sağlanır. Geliştirme kapsayıcısını GitHub Codespaces'ta (tarayıcıda) veya Visual Studio Code'u kullanarak yerel olarak çalıştırabilirsiniz.

Bu makaleyi kullanmak için aşağıdaki önkoşullara ihtiyacınız vardır:

Codespaces (önerilen)

1. Azure aboneliği - Ücretsiz bir abonelik oluşturun
2. Azure hesabı izinleri - Azure Hesabınızın Kullanıcı Erişimi Yönetici istrator veya Sahip gibi Microsoft.Authorization/roleAssignments/write izinlerine sahip olması gerekir.
3. İstenen Azure aboneliğinde Azure OpenAI'ya erişim verilir. Şu anda bu hizmete erişim yalnızca uygulama tarafından sağlanmaktadır. adresinden formu https://aka.ms/oai/accesstamamlayarak Azure OpenAI'ye erişim için başvurabilirsiniz. Sorun yaşıyorsanız bizimle iletişime geçmek için bu depoda bir sorun açın.
4. GitHub hesabı

Visual Studio Code

1. Azure aboneliği - Ücretsiz bir abonelik oluşturun
2. Azure hesabı izinleri - Azure Hesabınızın Kullanıcı Erişimi Yönetici istrator veya Sahip gibi Microsoft.Authorization/roleAssignments/write izinlerine sahip olması gerekir.
3. İstenen Azure aboneliğinde Azure OpenAI'ya erişim verilir. Şu anda bu hizmete erişim yalnızca uygulama tarafından sağlanmaktadır. adresinden formu https://aka.ms/oai/accesstamamlayarak Azure OpenAI'ye erişim için başvurabilirsiniz. Sorun yaşıyorsanız bizimle iletişime geçmek için bu depoda bir sorun açın.
4. Azure Geliştirici CLI'sı
5. Docker Desktop - Henüz çalışmıyorsa Docker Desktop'ı başlatın
6. Visual Studio Code
7. Dev Kapsayıcı Uzantısı

Açık geliştirme ortamı

Bu makaleyi tamamlamak için tüm bağımlılıkların yüklü olduğu bir geliştirme ortamıyla hemen başlayın.

GitHub Codespaces (önerilen)

GitHub Codespaces, Kullanıcı arabirimi olarak Web için Visual Studio Code ile GitHub tarafından yönetilen bir geliştirme kapsayıcısı çalıştırır. En basit geliştirme ortamı için GitHub Codespaces'ı kullanarak bu makaleyi tamamlamak için doğru geliştirici araçlarını ve bağımlılıklarını önceden yüklemiş olursunuz.

Önemli

Tüm GitHub hesapları Codespaces'ı her ay 2 çekirdek örneğiyle 60 saate kadar ücretsiz olarak kullanabilir. Daha fazla bilgi için bkz . GitHub Codespaces aylık dahil depolama ve çekirdek saatler.

1. GitHub deposunun dalında Azure-Samples/azure-search-openai-demo yeni bir GitHub Codespace main oluşturmak için işlemi başlatın.

2. Hem geliştirme ortamının hem de belgelerin aynı anda kullanılabilir olması için aşağıdaki düğmeye sağ tıklayın ve Bağlantıyı yeni pencerelerde aç'ı seçin.

   Bu projeyi GitHub Codespaces'ta açın

3. Codespace oluştur sayfasında codespace yapılandırma ayarlarını gözden geçirin ve ardından Yeni kod alanı oluştur'u seçin

   

4. Kod alanının başlamasını bekleyin. Bu başlatma işlemi birkaç dakika sürebilir.

5. Ekranın alt kısmındaki terminalde Azure Geliştirici CLI'sı ile Azure'da oturum açın.

   azd auth login
   

6. Kodu terminalden kopyalayın ve bir tarayıcıya yapıştırın. Azure hesabınızla kimlik doğrulaması yapmak için yönergeleri izleyin.

7. Bu makaledeki kalan görevler bu geliştirme kapsayıcısı bağlamında gerçekleşir.

Visual Studio Code

Visual Studio Code için Geliştirme Kapsayıcıları uzantısı docker'ın yerel makinenize yüklenmesini gerektirir. Uzantı, bu makaleyi tamamlamak için doğru geliştirici araçları ve bağımlılıkları önceden yüklenmiş docker ana bilgisayarını kullanarak geliştirme kapsayıcısını yerel olarak barındırır.

1. Boş bir dizin bağlamında Visual Studio Code'u açın.

2. Geliştirme Kapsayıcıları uzantısının Visual Studio Code'da yüklü olduğundan emin olun.

3. Düzenleyicide yeni bir terminal açın.

   İpucu

   Ana menüyü kullanarak Terminal menüsü seçeneğine gidip Yeni Terminal seçeneğini belirleyebilirsiniz.

   

4. Azure Geliştirici CLI'sı ile Azure'da oturum açın.

   azd auth login
   

   İstendiğinde, kodu terminalden kopyalayın ve bir tarayıcıya yapıştırın. Azure hesabınızla kimlik doğrulaması yapmak için yönergeleri izleyin.

5. Azure Geliştirici CLI'sı ile örnek projeyi kullanmak için bir klasör oluşturun ve bu klasörü başlatın:

   azd init -t azure-search-openai-demo
   

   Bu depoyu kopyalamanız gerekmez.

6. Komut Paleti'ni açın, Geliştirme Kapsayıcıları komutlarını arayın ve ardından Geliştirme Kapsayıcıları: Kapsayıcıda Yeniden Aç'ı seçin.

   İpucu

   Visual Studio Code, geliştirme kapsayıcısı içindeki mevcut klasörü otomatik olarak yeniden açmanızı isteyebilir. Bu işlev, geçerli çalışma alanını bir kapsayıcıda yeniden açmak için komut paletini kullanmaya eşdeğerdir.

7. Terminal penceresini yeniden açın (Ctrl + `) ve açık bırakın.

8. Bu projedeki kalan alıştırmalar bu geliştirme kapsayıcısı bağlamında gerçekleşir.

Dağıtma ve çalıştırma

Örnek depo, Bir sohbet uygulamasını Azure'a dağıtmak için ihtiyacınız olan tüm kod ve yapılandırma dosyalarını içerir. Aşağıdaki adımlar, örneği Azure'a dağıtma işleminde size yol gösterir.

Sohbet uygulamasını Azure'a dağıtma

Önemli

Bu bölümde oluşturulan Azure kaynakları, öncelikli olarak Azure AI Search kaynağından anlık maliyetler doğurabilir. Bu kaynaklar, komutu tam olarak yürütülmeden önce kesintiye uğratsanız bile maliyetleri tahakkuk ettirebilir.

1. Azure kaynaklarını sağlamak ve kaynak kodu dağıtmak için aşağıdaki Azure Geliştirici CLI komutunu çalıştırın:

   azd up
   

2. Bir ortam adı girmeniz istendiğinde kısa ve küçük harfle tutun. Örneğin, myenv. Kaynak grubu adının bir parçası olarak kullanılır.

3. İstendiğinde, içinde kaynakları oluşturmak için bir abonelik seçin.

4. İlk kez bir konum seçmeniz istendiğinde, size yakın bir konum seçin. Bu konum, barındırma dahil olmak üzere kaynakların çoğu için kullanılır.

5. OpenAI modeli veya Belge Yönetim Bilgileri kaynağı için bir konum istenirse size en yakın konumu seçin. İlk konumunuzla aynı konum kullanılabiliyorsa bunu seçin.

6. Uygulama dağıtılana kadar bekleyin. Dağıtımın tamamlanması 5-10 dakika sürebilir.

7. Uygulama başarıyla dağıtıldıktan sonra terminalde bir URL görüntülenir.

8. Sohbet uygulamasını tarayıcıda açmak için etiketli (✓) Done: Deploying service webapp URL'yi seçin.

   

PDF dosyalarından yanıt almak için sohbet uygulamasını kullanma

Sohbet uygulaması, PDF dosyalarından çalışan avantajları bilgileriyle önceden yüklenir. Avantajları hakkında sorular sormak için sohbet uygulamasını kullanabilirsiniz. Aşağıdaki adımlar, sohbet uygulamasını kullanma işleminde size yol gösterir.

1. Tarayıcıda, sohbet metin kutusuna Performans gözden geçirmesinde ne olur? öğesini seçin veya girin.

   

2. Yanıttan bir alıntı seçin.

   

3. Sağ bölmede, yanıtın nasıl oluşturulduğunu anlamak için sekmeleri kullanın.

   Sekme	Açıklama
   Düşünce süreci	Bu, sohbetteki etkileşimlerin betiğidir. Sistem istemini (content) ve kullanıcı sorunuzu (content ) görüntüleyebilirsiniz.
   Destekleyici içerik	Bu, sorunuzu ve kaynak malzemeyi yanıtlamaya yönelik bilgileri içerir. Kaynak malzeme alıntılarının sayısı Geliştirici ayarlarında not edilir. Varsayılan değer 3'dür.
   Alıntı	Bu, alıntıyı içeren özgün sayfayı görüntüler.

4. İşiniz bittiğinde, bölmeyi kapatmak için seçili sekmeyi yeniden seçin.

Yanıtların davranışını değiştirmek için sohbet uygulaması ayarlarını kullanma

Sohbetin zekası OpenAI modeli ve modelle etkileşimde kullanılan ayarlar tarafından belirlenir.

Ayar	Açıklama
Geçersiz kılma istemi şablonu	Bu, yanıtı oluşturmak için kullanılan istemdir.
Sıcaklık	Son Sohbet Tamamlama API'si çağrısı için kullanılan sıcaklık, modelin "yaratıcılığını" denetleen 0 ile 1 arasında bir sayıdır.
En düşük arama puanı	Yanıtı oluşturmak için kullanılan arama sonuçlarının en düşük puanı. Aralık, kullanılan arama moduna bağlıdır.
En düşük reranker puanı	Yanıtı oluşturmak için kullanılan arama sonuçlarının anlam derecesinden alınan en düşük puan. 0-4 arasında değişir.
Bu kadar çok arama sonucunu alın	Bu, yanıtı oluşturmak için kullanılan arama sonuçlarının sayısıdır. Bu kaynakların alıntının Düşünce süreci ve Destekleyici içerik sekmelerinde döndürülmüş olduğunu görebilirsiniz.
Kategoriyi dışla	Bu, arama sonuçlarından dışlanan belgelerin kategorisidir.
Alma için semantik dereceleyici kullanma	Bu, arama sonuçlarının ilgi düzeyini artırmak için makine öğrenmesini kullanan bir Azure AI Search özelliğidir.
Tüm belgeler yerine sorgu bağlamsal özetleri kullanma	Hem hem de Use semantic rankerUse query-contextual summaries işaretlendiğinde, LLM en yüksek dereceli belgelerde tüm pasajlar yerine anahtar geçitlerden ayıklanan başlık kullanır.
İzleme soruları önerin	Sohbet uygulamasının yanıta göre takip soruları önermesini sağlayın.
Alma modu	Vektörler + Metin , arama sonuçlarının belgelerin metnine ve belgelerin eklemelerine dayandığı anlamına gelir. Vektörler , arama sonuçlarının belgelerin eklemelerine dayandığı anlamına gelir. Metin , arama sonuçlarının belgelerin metnine dayalı olduğu anlamına gelir.
Sohbet tamamlama yanıtlarını akışla aktarın	Yanıt için tam yanıt kullanılabilir olana kadar beklemek yerine yanıt akışı yapın.

Aşağıdaki adımlar, ayarları değiştirme işleminde size yol gösterir.

1. Tarayıcıda Geliştirici Ayarlar sekmesini seçin.

2. İzleme soruları öner onay kutusunu işaretleyin ve aynı soruyu yeniden sorun.

   What happens in a performance review?
   

   Sohbet aşağıdakiler gibi önerilen izleme sorularını döndürdü:

   1. What is the frequency of performance reviews?
   2. How can employees prepare for a performance review?
   3. Can employees dispute the feedback received during the performance review?
   

3. Ayarlar sekmesinde Alma için anlam derecesini kullan'ın seçimini kaldırın.

4. Aynı soruyu tekrar mı sorayım?

   What happens in a performance review?
   

5. Yanıtlardaki fark nedir?

   Anlam dereceleyicisi ile: Contoso Electronics'te bir performans incelemesi sırasında çalışanlar, iş yerindeki başarılarını ve zorluklarını tartışma fırsatına sahip olacaktır (1). Gözden geçirme, çalışanların rollerinde gelişme ve büyümelerine yardımcı olmak için olumlu ve yapıcı geri bildirim sağlayacaktır (1). Çalışan, performans incelemesinin yazılı bir özetini alır ve bu özet, gelecek yıla ait performans, geri bildirim ve hedefleri ile hedeflerinin derecelendirmesini içerir (1). Performans incelemesi, yöneticiler ve çalışanlar arasında iki yönlü bir diyalogdur (1).

   Anlam dereceleyicisi olmadan: Contoso Electronics'teki performans gözden geçirmesi sırasında çalışanlar iş yerindeki başarılarını ve zorluklarını tartışma fırsatına sahip olur. Çalışanların rollerini geliştirmelerine ve büyütmelerine yardımcı olmak için olumlu ve yapıcı geri bildirim sağlanır. Gelecek yıla ilişkin performans derecelendirmesi, geri bildirim ve hedefler de dahil olmak üzere performans incelemesinin yazılı bir özeti verilir. Gözden geçirme, yöneticiler ve çalışanlar arasında iki yönlü bir diyalogdur (1).

Kaynakları temizleme

Azure kaynaklarını temizleme

Bu makalede oluşturulan Azure kaynakları Azure aboneliğinize faturalandırılır. Gelecekte bu kaynaklara ihtiyaç duymayı beklemiyorsanız, daha fazla ücret ödememek için bunları silin.

Azure kaynaklarını silmek ve kaynak kodu kaldırmak için aşağıdaki Azure Geliştirici CLI komutunu çalıştırın:

azd down --purge --force

Anahtarlar aşağıdakileri sağlar:

• purge: Silinen kaynaklar hemen temizlenir. Bu, Azure OpenAI TPM'yi yeniden kullanmanıza olanak tanır.
• force: Silme işlemi kullanıcı onayı gerektirmeden geçici olarak gerçekleşir.

GitHub Codespaces'i temizleme

GitHub Codespaces

GitHub Codespaces ortamını silmek, hesabınız için elde ettiğiniz ücretsiz çekirdek başına saat yetkilendirmesi miktarını en üst düzeye çıkarmanızı sağlar.

Önemli

GitHub hesabınızın yetkilendirmeleri hakkında daha fazla bilgi için bkz . GitHub Codespaces aylık dahil depolama ve çekirdek saatler.

1. GitHub Codespaces panosunda (https://github.com/codespaces ) oturum açın.

2. GitHub deposundan Azure-Samples/azure-search-openai-demo alınan şu anda çalışan Codespaces'ınızı bulun.

   

3. Codespace bağlam menüsünü açın ve sil'i seçin.

   

Visual Studio Code

Yerel ortamınızı temizlemek için gerekli olmayabilir, ancak çalışan geliştirme kapsayıcısını durdurabilir ve yerel çalışma alanı bağlamında çalışan Visual Studio Code'a dönebilirsiniz.

1. Komut Paleti'ni açın, Geliştirme Kapsayıcıları komutlarını arayın ve Geliştirici Kapsayıcıları: Klasörü Yerel Olarak Yeniden Aç'ı seçin.

   

İpucu

Visual Studio Code, çalışan geliştirme kapsayıcısını durdurur, ancak kapsayıcı hala Docker'da durdurulmuş durumdadır. Yerel makinenizde daha fazla alan açmak için her zaman kapsayıcı örneğini, kapsayıcı görüntüsünü ve birimleri Docker'dan silme seçeneğiniz vardır.

Yardım alın

Bu örnek depo sorun giderme bilgileri sunar.

Sorununuz giderildiyse sorununuzu deponun Sorunları'na kaydedin.

Sonraki adımlar

• Kurumsal sohbet uygulaması GitHub deposu
• Azure OpenAI en iyi yöntem çözüm mimarisiyle sohbet uygulaması oluşturma
• Azure AI Search ile Oluşturucu Yapay Zeka Uygulamaları'nda erişim denetimi
• Azure API Management ile Kurumsal kullanıma hazır openAI çözümü oluşturma
• Karma alma ve derecelendirme özellikleriyle vektör aramasını daha iyi performansla gerçekleştirme