Olay Hub 'ından Azure Veri Gezgini veri alma

Azure Veri Gezgini, günlük ve telemetri verileri için hızlı ve üst düzeyde ölçeklenebilir veri keşfetme hizmetidir. Azure Veri Gezgini, Event Hubs, IoT Hub 'larından ve BLOB kapsayıcılarına yazılan bloblardan alma (veri yükleme) sağlar.

Azure Veri Gezgini, büyük veri akış platformu ve olay ekleme hizmeti olan Event Hubs'dan veri eklemeyi (veri yüklemeyi) destekler. Event Hubs , neredeyse gerçek zamanlı olarak saniyede milyonlarca olayı işleyebilir. Bu makalede, bir olay hub 'ı oluşturur, Azure Veri Gezgini 'a bağlanırsınız ve sistem aracılığıyla veri akışını görürsünüz.

olay hub 'ından Azure Veri Gezgini 'ye giriş hakkında genel bilgi için bkz. Bağlan olay hub'ı.

Önkoşullar

Azure portalında oturum açın

Azure Portal oturum açın.

Olay Hub'ı oluşturma

Azure portal bir Azure Resource Manager şablonu kullanarak bir olay hub 'ı oluşturun.

  1. Bir olay hub 'ı oluşturmak için, dağıtımı başlatmak üzere aşağıdaki düğmeyi kullanın. Sağ tıklayıp Yeni pencerede aç' ı seçerek bu makaledeki adımların geri kalanını izleyebilirsiniz.

    Azure'a Dağıt düğmesi

    Azure 'A dağıt düğmesi sizi Azure Portal götürür.

    Olay Hub 'ı formu oluşturma

  2. Olay Hub 'ını oluşturmak istediğiniz aboneliği seçin ve Test-Hub-RGadlı bir kaynak grubu oluşturun.

    Kaynak grubu oluşturma

  3. Formu aşağıdaki bilgilerle doldurun.

    Aşağıdaki tabloda yer almayan ayarlar için varsayılan değerleri kullanın.

    Ayar Önerilen değer Alan açıklaması
    Abonelik Aboneliğiniz Olay Hub 'ınız için kullanmak istediğiniz Azure aboneliğini seçin.
    Kaynak grubu test-hub-rg Yeni bir kaynak grubu oluşturma.
    Konum Batı ABD Bu makale için Batı ABD seçin. Üretim sisteminde ihtiyaçlarınıza en uygun bölgeyi seçmeniz gerekir. En iyi performansı elde etmek için Azure Veri Gezgini kümesiyle aynı konumda Olay Hub 'ı ad alanı oluşturun (yüksek aktarım hızı olan olay hub 'ı ad alanları için en önemli).
    Ad alanı adı Benzersiz bir ad alanı adı Ad alanınızı tanımlayan benzersiz bir ad seçin. Örneğin, mytestnamespace. Girdiğiniz adın sonuna servicebus.windows.net etki alanı adı eklenir. Ad yalnızca küçük harf, sayı ve kısa çizgi içerebilir. Ad bir harf ile başlamalı ve harf veya sayı ile bitmelidir. Değer uzunluğu 6 ile 50 karakter arasında olmalıdır.
    Olay hub'ı adı test-hub Olay Hub 'ı, benzersiz bir kapsam kapsayıcısı sağlayan ad alanı altında bulunur. Olay Hub 'ı adı ad alanı içinde benzersiz olmalıdır.
    Tüketici grubu adı test-group Tüketici grupları birden fazla tüketici uygulamasının ayrı olay akışı görünümüne sahip olmasını sağlar.
  4. Gözden geçir ve oluştur’u seçin.

  5. Oluşturulan kaynakların özetini gözden geçirin. Aboneliğinizde kaynak oluşturmakta olduğunuzu bildiren Oluştur' u seçin.

    Azure portal ekran görüntüsü EventHubs ad alanı, Olay Hub 'ı ve tüketici grubunu İnceleme ve oluşturma.

  6. Araç çubuğunda Bildirimler’i seçip sağlama işlemini izleyin. Dağıtımın başarıyla tamamlanması birkaç dakika sürebilir ancak beklemeden bir sonraki adıma geçebilirsiniz.

    Bildirimler simgesi

Azure Veri Gezgini'nde hedef tablo oluşturma

Şimdi Azure Veri Gezgini'nde Event Hubs tarafından gönderilen verilerin ekleneceği tabloyu oluşturacaksınız. Tabloyu Önkoşullar bölümünde sağlanan kümede ve veritabanında oluşturacaksınız.

  1. Azure portal, kümenize gidin ve sorgu' yı seçin.

    Sorgu uygulama bağlantısı

  2. Aşağıdaki komutu pencereye kopyalayın ve alınan verileri alacak tabloyu (TestTable) oluşturmak için Çalıştır ' ı seçin.

    .create table TestTable (TimeStamp: datetime, Name: string, Metric: int, Source:string)
    

    Oluşturma sorgusunu çalıştırma

  3. Aşağıdaki komutu pencereye kopyalayın ve gelen JSON verilerini tablonun sütun adlarıyla ve veri türleriyle (TestTable) eşlemek için Çalıştır ' ı seçin.

    .create table TestTable ingestion json mapping 'TestMapping' '[{"column":"TimeStamp", "Properties": {"Path": "$.timeStamp"}},{"column":"Name", "Properties": {"Path":"$.name"}} ,{"column":"Metric", "Properties": {"Path":"$.metric"}}, {"column":"Source", "Properties": {"Path":"$.source"}}]'
    

olay Hub 'ına Bağlan

Artık Azure Veri Gezgini Olay Hub 'ına bağlanıyorsunuz. Bu bağlantı olduğunda, Olay Hub 'ına akan veriler, bu makalede daha önce oluşturduğunuz test tablosuna akar.

  1. Olay Hub 'ının dağıtımının başarılı olduğunu doğrulamak için araç çubuğunda Bildirimler ' i seçin.

  2. Oluşturduğunuz kümenin altında Veritabanları'nı ve ardından TestDatabase girişini seçin.

    Test veritabanını seçme

  3. Veri alımı ' nı seçin ve veri bağlantısı ekleyin.

    Veri alımı ' nı seçin ve Olay Hub 'ında veri bağlantısı ekleyin-Azure Veri Gezgini.

Veri bağlantısı oluşturma

Formu aşağıdaki bilgilerle doldurun ve Oluştur' u seçin.

Veri bağlantısı bölmesi Olay Hub 'ı-Azure Veri Gezgini.

Ayar Önerilen değer Alan açıklaması
Veri bağlantısı adı test-hub-connection Azure Veri Gezgini'nde oluşturmak istediğiniz bağlantının adı.
Abonelik Olay Hub 'ı kaynağının bulunduğu abonelik KIMLIĞI.
Olay hub'ı ad alanı Benzersiz bir ad alanı adı Önceden seçtiğiniz ve ad alanınızı tanımlayan ad.
Olay Hub'ı test-hub Oluşturduğunuz Olay Hub'ı.
Tüketici grubu test-group Oluşturduğunuz Olay Hub'larında tanımlanan tüketici grubu.
Olay sistemi özellikleri İlgili özellikleri seçme Olay Hub'ı sistem özellikleri. Olay iletisi başına birden çok kayıt varsa, sistem özellikleri ilk kayda eklenir. Sistem özellikleri eklerken, tablo şemasınıve eşlemesini,seçilen özellikleri içerecek şekilde oluşturun veya güncelleştirin.
Sıkıştırma Hiçbiri Olay Hub'ı ileti yükünün sıkıştırma türü. Desteklenen sıkıştırma türleri: Yok, Gzip.
Yönetilen Kimlik (önerilen) Sistem tarafından atanan Olay Hub'ını okumak Veri Gezgini için küme tarafından kullanılan yönetilen kimlik. Olay Hub'ınıza erişimi kontrol etmek için yönetilen kimlikleri kullanmanızı öneririz.

Not:
Veri bağlantısı oluşturulduğunda:
* * tarafından atanan kimlikler otomatik olarak oluşturulur
* Yönetilen kimlik, Azure Event Hubs Veri Alıcısı rolüne otomatik olarak atanır ve Veri Gezgini kümenize eklenir. Rolün atandığı ve kimliğin kümeye eklenmiş olduğunu doğrulamanız önerilir.

Not

Yönetilen kimlikleri kullanmayan mevcut bir veri bağlantınız varsa, yönetilen kimlikleri kullanmak için bu bağlantıyı güncelleştirmenizi öneririz.

Hedef tablo

Alan verileri yönlendirmeye iki seçenek vardır: statik vedinamik. Bu makalede tablo adını, veri biçimini ve eşlemeyi varsayılan değerler olarak belirttiğiniz statik yönlendirmeyi kullanırsınız. Olay Hub'ı iletisi veri yönlendirme bilgilerini içerirse, bu yönlendirme bilgileri varsayılan ayarları geçersiz kılar.

  1. Aşağıdaki yönlendirme ayarlarını doldurun:

    Event Hub'a veri alan varsayılan yönlendirme ayarları - Azure Veri Gezgini.

    Ayar Önerilen değer Alan açıklaması
    Tablo adı TestTable TestDatabase içinde oluşturduğunuz tablo.
    Veri biçimi JSON Avro, CSV, JSON, MULTILINE JSON, ORC, PARQUET, PSV, SCSV, SOHSV, TSV, TXT, TSVE, APACHEAVRO ve W3CLOG desteklenen biçimlerdir.
    Eşleme TestMapping TestDatabase'de oluşturduğunuz ve gelenverileri TestTablesütun adları ve veri türleriyle eşler. JSON, MULTILINE JSON ve AVRO için gereklidir ve diğer biçimler için isteğe bağlıdır.

    Not

    • Tüm Varsayılan yönlendirme ayarlarını belirtmenize gerek yok. Kısmi ayarlar da kabul edilir.
    • Yalnızca veri bağlantısını oluşturduk sonra enqueued olaylar alındı.
  2. Oluştur’u seçin.

Olay sistemi özellikleri eşlemesi

Not

  • Sistem özellikleri ve tablo json biçimleri ( csv , tsv vb.) için de desteklemektedir ve sıkıştırılmış verilarda destek değildir. Desteksiz bir biçim kullanılırken veriler yine de alınmaya devam edilir, ancak özellikler yoksayılır.
  • Tablosal veriler için sistem özellikleri yalnızca tek kayıt olay iletileri için de kullanılabilir.
  • JSON verileri için, sistem özellikleri birden çok kayıt olay iletileri için de de desteklemektedir. Böyle durumlarda sistem özellikleri yalnızca olay iletisi ilk kaydına eklenir.
  • Eşleme csv için, özellikler kaydın başına Sistem özellikleri tablosunda listelenen csv eklenir.
  • Eşleme json için, özellikler Sistem özellikleri tablosunda özellik json eklenir.

Tablonun Veri Kaynağı bölümünde Olay sistemi özelliklerini seçtiysanız, sistem özelliklerini tablo şemasına ve eşlemesine dahil edin.

Bağlantı dizesini kopyalayın

Önkoşullar'da listelenen örnek uygulamayı çalıştırarak Olay Hub'ı ad alanı için bağlantı dizesine ihtiyacınız vardır.

  1. Oluşturduğunuz Olay Hub'ı ad alanı altında Paylaşılan erişim ilkeleri'nin ardındanRootManageSharedAccessKey öğesini seçin.

    Paylaşılan erişim ilkeleri.

  2. Bağlantı dizesini kopyala - birincil anahtar. Bir sonraki bölümde bunu yapıştıracaksınız.

    Bağlantı dizesi.

Örnek veri oluşturma

Veri oluşturmak için indirdiğiniz örnek uygulamayı kullanın.

  1. Örnek uygulama çözümünü Visual Studio'da açın.

  2. program.cs dosyasında sabitini Olay Hub'nizin adıyla güncelleştirin ve sabiti Olay Hub'ı ad alanının kopyalanmış bağlantı connectionString dizesiyle güncelleştirin.

    const string eventHubName = "test-hub";
    // Copy the connection string ("Connection string-primary key") from your Event Hub namespace.
    const string connectionString = @"<YourConnectionString>";
    
  3. Uygulamayı derleyin ve çalıştırın. Uygulama, Olay Hub'ını ileti gönderir ve 10 saniyede bir durumunu yazdırır.

  4. Uygulama birkaç ileti gönderdikten sonra bir sonraki adıma geçin: Olay Hub'ınıza veri akışını gözden geçirme ve tabloyu test etme.

Veri akışını inceleme

Uygulamanın veri oluşturması ile bu verilerin Event Hub'larından kümenizin tablosuna akışını artık göresiniz.

  1. Bu Azure portal Olay Hub'nizin altında, uygulama çalışırken etkinlikte ani artış olduğunu görüyorsunuz.

    Olay hub'ı grafiği.

  2. Veritabanına ulaşan ileti sayısını denetlemek için test veritabanınızda aşağıdaki sorguyu çalıştırın.

    TestTable
    | count
    
  3. İletilerin içeriğini görmek için aşağıdaki sorguyu çalıştırın:

    TestTable
    

    Sonuç kümesi aşağıdaki görüntüye benzin:

    İleti sonuç kümesi.

    Not

    • Azure Veri Gezgini veri alımı için bir toplama (toplu işlem) ilkesi vardır ve bu ilke, veri alımı işlemini iyileştirmek için tasarlanmıştır. Varsayılan toplu işlem ilkesi, toplu iş için aşağıdaki koşullardan biri doğruysa bir toplu işi mühürlemektedir: en uzun gecikme süresi 5 dakika, toplam 1G boyutu veya 1000 blob. Bu nedenle bir gecikme süresiyle karşınız olabilir. Daha fazla bilgi için bkz. toplu işlem ilkesi.
    • Olay Hub'ı alımı 10 saniye veya 1 MB'lık Olay Hub'ı yanıt süresi içerir.
    • Yanıt süresi gecikmesini azaltmak için tabloyu akışı destekleyecek şekilde yapılandırabilirsiniz. Bkz. akış ilkesi.

Kaynakları temizleme

Olay Hub'ını yeniden kullanmayı planlasanız maliyetlerden kaçınmak için test-hub-rg'nizitemizleyin.

  1. Azure portalında, en solda bulunan Kaynak grupları’nı ve ardından oluşturduğunuz kaynak grubunu seçin.

    Sol menü daraltılmışsa Genişlet düğmesini seçin.

    Silinecek kaynak grubunu seçin.

  2. test-resource-group altında Kaynak grubunu sil'i seçin.

  3. Yeni pencerede silinecek kaynak grubunun adını yazın (test-hub-rg) ve Sil'i seçin.

Sonraki adımlar