Otonom Araç İşlemleri (AVOps) çözümü oluşturma

Bu mimari, otomatik sürüş çözümü geliştirmeye yönelik rehberlik ve öneriler sağlar.

Mimari

Bu makaledeki mimari diyagramlarını içeren bir Visio dosyası indirin.

Veri akışı

1. Ölçüm verileri kameralar, radar, ultrason, lidar ve araç telemetrisi gibi algılayıcılar için veri akışlarından gelir. Araçtaki veri kaydediciler günlükçü depolama cihazlarında ölçüm verilerini depolar. Günlükçü depolama verileri daha sonra giriş veri gölüne yüklenir. Azure Data Box veya Azure Stack Edge gibi bir hizmet ya da Azure ExpressRoute gibi ayrılmış bir bağlantı verileri Azure'a alır.

   Ölçüm verileri simülasyonlardan veya diğer kaynaklardan yapay veriler de olabilir. (MDF4, TDMS ve rosbag, ölçümler için yaygın veri biçimleridir.) DataOps aşamasında alınan ölçümler işlenir. Düşük kaliteli verileri kaldırmak için sağlama toplamı gibi doğrulama ve veri kalitesi denetimleri gerçekleştirilir. Bu aşamada, test sürüşü sırasında bir test sürücüsü tarafından kaydedilen ham bilgi meta verileri ayıklanır. Bu veriler merkezi bir meta veri kataloğunda depolanır. Bu bilgiler aşağı akış işlemlerinin belirli sahneleri ve dizileri tanımlamalarına yardımcı olur.

2. Veriler bir Azure Data Factory ayıklama, dönüştürme ve yükleme (ETL) işlem hattı tarafından işlenir. Çıkış, Azure Data Lake'te ham ve ikili veri olarak depolanır. Meta veriler Azure Cosmos DB'de depolanır. Senaryoya bağlı olarak azure Veri Gezgini veya Azure Bilişsel Arama gönderilebilir.

3. Verilerin doğruluğunu ve güvenilirliğini artırmak için verilere ek bilgiler, içgörüler ve bağlam eklenir.

4. Ayıklanan ölçüm verileri, Azure Veri Paylaşımı aracılığıyla etiketleme iş ortaklarına (döngüde insan) sağlanır. Üçüncü taraf iş ortakları, ayrı bir Data Lake hesabı aracılığıyla otomatik etiketleme, depolama ve verilere erişme işlemlerini gerçekleştirir.

5. Etiketli veri kümeleri, temel olarak algı ve sensör füzyon modelleri oluşturmak için aşağı akış MLOps işlemlerine akar. Bu modeller, otonom araçlar tarafından sahneleri (şerit değişiklikleri, engellenen yollar, yayalar, trafik ışıkları ve trafik işaretleri) algılamak için kullanılan işlevleri yerine getirir.

6. ValOps aşamasında, eğitilen modeller açık döngü ve kapalı döngü testi yoluyla doğrulanır.

7. Azure Kubernetes Service veya Azure Container Instances üzerinde çalışan Foxglove gibi araçlar, alınan ve işlenen verileri görselleştirir.

Veri toplama

Veri toplama, Otonom Araçlar operasyonlarının (AVOps) başlıca zorluklarından biridir. Aşağıdaki diyagramda çevrimdışı ve çevrimiçi araç verilerinin bir veri gölünde nasıl toplanıp depolanabileceğine ilişkin bir örnek gösterilmektedir.

DataOps

Veri işlemleri (DataOps), veri işlemlerinin kalitesini, hızını ve güvenilirliğini artırmaya yönelik bir dizi uygulama, işlem ve araçtır. Otonom sürüş (AD) için DataOps akışının amacı, aracı kontrol etmek için kullanılan verilerin yüksek kaliteli, doğru ve güvenilir olmasını sağlamaktır. Tutarlı bir DataOps akışı kullanarak veri operasyonlarınızın hızını ve doğruluğunu artırabilir ve otonom araçlarınızı kontrol etmek için daha iyi kararlar alabilirsiniz.

DataOps bileşenleri

• Data Box , toplanan araç verilerini bölgesel bir taşıyıcı aracılığıyla Azure'a aktarmak için kullanılır.
• ExpressRoute , şirket içi ağı özel bir bağlantı üzerinden Microsoft bulutuna genişletir.
• Azure Data Lake Depolama verileri ham veya ayıklanmış gibi aşamalara göre depolar.
• Azure Data Factory, toplu işlem aracılığıyla ETL gerçekleştirir ve veri taşımayı ve verileri dönüştürmek için veri temelli iş akışları oluşturur.
• Azure Batch , veri düzenleme, verileri filtreleme ve hazırlama ve meta verileri ayıklama gibi görevler için büyük ölçekli uygulamalar çalıştırır.
• Azure Cosmos DB , depolanan ölçümler gibi meta veri sonuçlarını depolar.
• Veri Paylaşımı, verileri etiketleme şirketleri gibi iş ortağı kuruluşlarla gelişmiş güvenlikle paylaşmak için kullanılır.
• Azure Databricks , kurumsal düzeydeki veri çözümlerini büyük ölçekte korumak için bir dizi araç sağlar. Büyük miktarda araç verisi üzerinde uzun süre çalışan operasyonlar için gereklidir. Veri mühendisleri, analiz çalışma alanı olarak Azure Databricks'i kullanır.
• Azure Synapse Analytics , veri ambarları ve büyük veri sistemleri arasında içgörü elde etme süresini kısaltıyor.
• Azure Bilişsel Arama veri kataloğu arama hizmetleri sağlar.

MLOps

Makine öğrenmesi işlemleri (MLOps) şunları içerir:

• DataOps işlem hattı sırasında sahneleri sınıflandırmak için özellik ayıklama modelleri (CLIP ve YOLO gibi).
• Alınan görüntüleri ve lidar ve radar verilerini etiketlemek için otomatik etiketleme modelleri.
• Nesneleri ve sahneleri algılamaya yönelik algı ve görüntü işleme modelleri.
• Sensör akışlarını birleştiren bir sensör füzyon modeli.

Algı modeli bu mimarinin önemli bir bileşenidir. Bu Azure Machine Learning modeli, algılanan ve ayıklanan sahneleri kullanarak bir nesne algılama modeli oluşturur.

Kapsayıcılı makine öğrenmesi modelinin yonga (SoC) donanımında sistem tarafından okunabilen bir biçime aktarılması ve MLOps işlem hattında doğrulama/simülasyon yazılımı gerçekleşir. Bu adım, SoC üreticisinin desteğini gerektirir.

MLOps bileşenleri

• Azure Machine Learning özellik ayıklama, otomatik etiketleme, nesne algılama ve sınıflandırma ve sensör füzyonu gibi makine öğrenmesi algoritmaları geliştirmek için kullanılır.
• Azure DevOps , CI/CD, test ve otomasyon gibi DevOps görevleri için destek sağlar.
• Kuruluşlar için GitHub, CI/CD, test ve otomasyon gibi DevOps görevleri için alternatif bir seçenektir.
• Azure Container Registry , özel bir kayıt defterinde kapsayıcı görüntüleri ve yapıtları oluşturmanızı, depolamanızı ve yönetmenizi sağlar.

ValOps

Doğrulama işlemleri (ValOps), pahalı gerçek dünya ortam testleri gerçekleştirmeden önce yönetilen senaryolar aracılığıyla sanal ortamlarda geliştirilmiş modelleri test etme işlemidir. ValOps testleri, modellerin istediğiniz performans standartlarını, doğruluk standartlarını ve güvenlik gereksinimlerini karşıladığından emin olmak için yardımcı olur. Buluttaki doğrulama sürecinin amacı, otonom aracı canlı bir ortama dağıtmadan önce olası sorunları belirlemek ve çözmektir. ValOps şunları içerir:

• Benzetimi doğrulama. Bulut tabanlı simülasyon (açık döngü ve kapalı döngü testi) ortamları, otonom araç modellerinin sanal testini sağlar. Bu test büyük ölçekte çalışır ve gerçek dünyadaki testlerden daha ucuzdur.
• Performans doğrulaması. Bulut tabanlı altyapı, otonom araç modellerinin performansını değerlendirmek için büyük ölçekli testler çalıştırabilir. Performans doğrulaması stres testlerini, yük testlerini ve karşılaştırmaları içerebilir.

ValOps'un doğrulama için kullanılması, bulut tabanlı bir altyapının ölçeklenebilirliğinden, esnekliğinden ve uygun maliyetliliğinden yararlanmanıza ve otonom araç modelleri için pazara sunma süresini azaltmanıza yardımcı olabilir.

Açık döngü testi

Yeniden simülasyon veya sensör işleme, otomatik sürüş işlevleri için bir açık döngü test ve doğrulama sistemidir. Bu karmaşık bir süreçtir ve güvenlik, veri gizliliği, veri sürümü oluşturma ve denetim için mevzuat gereksinimleri olabilir. Buluttaki bir graf aracılığıyla çeşitli araba algılayıcılarından kaydedilen ham verileri yeniden simülasyon işlemleri. Yeniden simülasyon, veri işleme algoritmalarını doğrular veya regresyonları algılar. OEM'ler, algılayıcıları gerçek dünya aracını temsil eden yönlendirilmiş bir ansiklik grafikte birleştirir.

Yeniden benzetimi büyük ölçekli bir paralel işlem işidir. On binlerce çekirdek kullanarak on veya yüzlerce PC veri işler. 30 GB/sn'den fazla G/Ç aktarım hızı gerektirir. Birden çok algılayıcıdaki veriler, araç gerçek dünyada gezindiğinde araç içi görüntü işleme sistemlerinin ne kaydettiğine ilişkin bir görünümü temsil eden veri kümelerinde birleştirilir. Açık döngü testi, yeniden yürütme ve puanlama kullanarak algoritmaların zemin gerçeğine karşı performansını doğrular. Çıktı daha sonra iş akışında algoritma eğitimi için kullanılır.

• Veri kümeleri ham sensör verilerini (kamera, lidar, radar ve ultrasonik veriler gibi) toplayan test filosu araçlarından elde edilir.
• Veri hacmi, kamera çözünürlüğüne ve araç üzerindeki sensörlerin sayısına bağlıdır.
• Ham veriler, cihazların farklı yazılım sürümlerine göre yeniden işlenir.
• Ham sensör verileri, algılayıcı yazılımının sensör giriş arabirimine gönderilir.
• Çıkış, önceki yazılım sürümlerinin çıkışıyla karşılaştırılır ve hata düzeltmelerine veya yeni nesne türlerini algılama gibi yeni özelliklere karşı denetlenir.
• Model ve yazılım güncelleştirildikten sonra işin ikinci bir yeniden eklenmesi gerçekleştirilir.
• Temel gerçeklik verileri sonuçları doğrulamak için kullanılır.
• Sonuçlar depolama alanına yazılır ve görselleştirme için Azure Veri Gezgini'a yüklenir.

Kapalı döngü testi ve benzetimi

Otonom araçların kapalı döngü testi, ortamdan gerçek zamanlı geri bildirimler de dahil olmak üzere araç yeteneklerini test etme sürecidir. Aracın eylemleri hem önceden programlanmış davranışına hem de karşılaştığı dinamik koşullara göre hareket eder ve eylemlerini buna göre ayarlar. Kapalı döngü testi daha karmaşık ve gerçekçi bir ortamda çalışır. Aracın beklenmedik durumlara nasıl tepki aldığı da dahil olmak üzere gerçek dünya senaryolarını işleme becerisini değerlendirmek için kullanılır. Kapalı döngü testinin amacı, aracın çeşitli koşullarda güvenli ve etkili bir şekilde çalışabildiğini doğrulamak ve kontrol algoritmalarını ve karar alma süreçlerini gerektiği gibi iyileştirmektir.

ValOps işlem hattı kapalı döngü testlerini, üçüncü taraf simülasyonlarını ve ISV uygulamalarını tümleştirir.

Senaryo yönetimi

ValOps aşamasında, otonom sürüş çözümünün otonom araçların davranışını simüle etme yeteneğini doğrulamak için gerçek senaryolardan oluşan bir katalog kullanılır. Amaç, genel olarak erişilebilen ve serbestçe kullanılabilen dijital haritalardan senaryonun bir parçası olan rota ağını otomatik olarak okuyarak senaryo kataloglarının oluşturulmasını hızlandırmaktır. Senaryo yönetimi için üçüncü taraf araçlarını veya OPENDRIVE (xodr) biçimini destekleyen CARLA gibi basit bir açık kaynak simülatörü kullanın. Daha fazla bilgi için bkz . SCENARIORunner for CARLA.

ValOps bileşenleri

• Azure Kubernetes Service , reçine çerçevesi içinde açık döngü doğrulaması için büyük ölçekli toplu çıkarım çalıştırır. Ölçüm dosyalarına erişmek için BlobFuse2 kullanmanızı öneririz. NFS de kullanabilirsiniz, ancak kullanım örneği için performansı değerlendirmeniz gerekir.
• Azure Batch , Bir Reçine çerçevesi içinde açık döngü doğrulaması için büyük ölçekli toplu çıkarım çalıştırır.
• Azure Veri Gezgini ölçümler ve KPI'ler (yeniden simülasyon ve iş çalıştırmaları) için bir analiz hizmeti sağlar.

Merkezi AVOps işlevleri

AVOps mimarisi karmaşıktır ve çeşitli üçüncü tarafları, rolleri ve geliştirme aşamalarını içerir, bu nedenle iyi bir idare modeli uygulamak önemlidir.

Altyapı sağlama, maliyet yönetimi, meta veriler ve veri kataloğu, köken, genel düzenleme ve olay işleme gibi işlevleri işlemek için merkezi bir ekip oluşturmanızı öneririz. Bu hizmetlerin merkezileştirilmesi verimlidir ve işlemleri basitleştirir.

Bu sorumlulukları işlemek için merkezi bir ekip kullanmanızı öneririz:

• AVOps mimarisinin her alanı ve alt alanı tarafından kullanılan depolama ve işlem gibi standart hizmetler için şablonlar da dahil olmak üzere ARM/Bicep şablonları sağlama
• AVOps veri döngüsünün olay odaklı düzenlemesi için merkezi Azure Service Bus / Azure Event Hubs örneklerinin uygulanması
• Meta veri kataloğunun sahipliği
• Tüm AVOps bileşenlerinde uçtan uca köken ve izlenebilirlik özellikleri

Senaryo ayrıntıları

Azure'da otomatik bir sürüş çözümü oluşturmak için bu mimariyi kullanabilirsiniz.

Olası kullanım örnekleri

Otomatik sürüş için çözümler geliştiren otomotiv OEM'leri, Katman 1 satıcıları ve ISV'ler.

Dikkat edilmesi gerekenler

Bu önemli noktalar, bir iş yükünün kalitesini artırmak için kullanabileceğiniz bir dizi yol gösteren ilke olan Azure İyi Tasarlanmış Çerçeve'nin yapı taşlarını uygular. Daha fazla bilgi için bkz . Microsoft Azure İyi Tasarlanmış Çerçeve.

Güvenlik

Güvenlik, kasıtlı saldırılara ve değerli verilerinizin ve sistemlerinizin kötüye kullanılmasına karşı güvence sağlar. Daha fazla bilgi için bkz . Güvenlik sütununa genel bakış.

Otomotiv OEM'i ile bulut sağlayıcısı arasındaki sorumluluk ayrımını anlamak önemlidir. Araçta tüm yığının sahibi OEM'tir, ancak veriler buluta taşınırken bazı sorumluluklar bulut sağlayıcısına aktarılır. Hizmet olarak Azure platformu (PaaS), işletim sistemi de dahil olmak üzere fiziksel yığında yerleşik olarak geliştirilmiş güvenlik sağlar. Altyapı güvenlik bileşenlerine ek olarak aşağıdaki iyileştirmeleri uygulayabilirsiniz. Bu geliştirmeler Sıfır Güven yaklaşımını etkinleştirir.

• Ağ güvenliği için özel uç noktalar. Daha fazla bilgi için bkz. Azure Veri Gezgini için özel uç noktalar ve Özel uç noktalar aracılığıyla Azure Event Hubs ad alanlarına erişime izin verme.
• Bekleyen ve aktarımdaki şifreleme. Daha fazla bilgi için bkz . Azure şifrelemeye genel bakış.
• Microsoft Entra kimliklerini ve Microsoft Entra Koşullu Erişim ilkelerini kullanan kimlik ve erişim yönetimi.
• Azure Veri Gezgini için Satır Düzeyi Güvenlik (RLS).
• Azure İlkesi kullanan altyapı idaresi.
• Microsoft Purview kullanan veri idaresi.
• Araçların bağlantısının güvenliğini sağlamaya yardımcı olmak için sertifika yönetimi .
• En az ayrıcalık erişimi. Tam Zamanında (JIT) ve Just-Enough-Yönetici istration (JEA), risk tabanlı uyarlamalı ilkeler ve veri koruması ile kullanıcı erişimini sınırlayın.

Maliyet iyileştirme

Maliyet iyileştirmesi gereksiz giderleri azaltmak ve operasyonel verimlilikleri iyileştirmektir. Daha fazla bilgi için bkz . Maliyet iyileştirme sütununa genel bakış.

Otonom sürüş çözümleri geliştirmekle ilişkili maliyetleri azaltmak için bu stratejileri kullanabilirsiniz:

• Bulut altyapısını iyileştirme. Bulut altyapısının dikkatli bir şekilde planlanması ve yönetilmesi maliyetleri azaltmanıza yardımcı olabilir. Örneğin, değişen iş yüklerini karşılamak için uygun maliyetli örnek türlerini ve ölçek altyapısını kullanın. Azure Bulut Benimseme Çerçevesi yönergelerini izleyin.
• Spot Sanal Makineler kullanın. AVOps dağıtımınızdaki hangi iş yüklerinin belirli bir zaman dilimi içinde işlenmesi gerekmediğini belirleyebilir ve bu iş yükleri için Spot Sanal Makineler kullanabilirsiniz. Spot Sanal Makineler, önemli maliyet tasarrufları için kullanılmayan Azure kapasitesinden yararlanmanızı sağlar. Azure'ın kapasiteye geri ihtiyacı varsa, Azure altyapısı spot sanal makineleri çıkartır.
• Otomatik ölçeklendirmeyi kullanın. Otomatik ölçeklendirme, bulut altyapınızı isteğe bağlı olarak otomatik olarak ayarlamanıza olanak sağlayarak el ile müdahale ihtiyacını azaltır ve maliyetleri azaltmanıza yardımcı olur. Daha fazla bilgi için bkz . Ölçeklendirme için tasarlama.
• Depolama için sık erişimli, seyrek erişimli ve arşiv katmanları kullanmayı göz önünde bulundurun. Depolama otonom bir sürüş çözümünde önemli bir maliyet olabileceği için soğuk depolama veya seyrek erişimli depolama gibi uygun maliyetli depolama seçeneklerini belirlemeniz gerekir. Daha fazla bilgi için bkz . Veri yaşam döngüsü yönetimi.
• Maliyet yönetimi ve iyileştirme araçlarını kullanın. Microsoft Maliyet Yönetimi , kullanılmayan veya az kullanılan kaynaklar gibi maliyet azaltma alanlarını belirlemenize ve gidermenize yardımcı olabilecek araçlar sağlar.
• Azure hizmetlerini kullanmayı göz önünde bulundurun. Örneğin, otonom sürüş modelleri oluşturmak ve eğitmek için Azure Machine Learning'i kullanabilirsiniz. Bu hizmetleri kullanmak, şirket içi altyapı oluşturmak ve korumaktan daha uygun maliyetli olabilir.
• Paylaşılan kaynakları kullanın. Mümkün olduğunda, otonom sürüş geliştirmeyle ilişkili maliyetleri azaltmak için paylaşılan veritabanları veya paylaşılan işlem kaynakları gibi paylaşılan kaynakları kullanabilirsiniz. Bu mimarideki merkezi işlevler, örneğin bir merkezi veri yolu, olay hub'ı ve meta veri kümesi uygular. Azure Veri Paylaşımı gibi hizmetler de bu hedefe ulaşmanıza yardımcı olabilir.

Katkıda Bulunanlar

Bu makale Microsoft tarafından yönetilir. Başlangıçta aşağıdaki katkıda bulunanlar tarafından yazılmıştır.

Asıl yazarlar:

• Ryan Matsumura | Üst Düzey Program Yöneticisi
• Jochen Schroeer | Baş Mimar (Service Line Mobility)

Diğer katkıda bulunanlar:

• Mick Alberts | Teknik Yazar
• David Peterson | Baş Mimar
• Gabriel Sallah | HPC/AI Küresel Siyah Kuşak Uzmanı

Genel olmayan LinkedIn profillerini görmek için LinkedIn'de oturum açın.

Sonraki adımlar

• Azure Machine Learning nedir?
• Azure Batch nedir?
• Azure Data Factory belgeleri
• Azure Veri Paylaşımı nedir?

İlgili kaynaklar

Otomatik bir sürüş sistemi için DataOps geliştirme hakkında daha fazla bilgi için bkz:

Bu ilgili makaleler de ilginizi çekebilir:

• AVOps tasarım kılavuzu
• Otomotiv test filoları için veri analizi
• Otonom sürüş simülasyon ortamları için yapı taşları