Szerkesztés

Share via


Adatstreamelés az AKS-sel

Azure App Service
Azure API Management
Azure Container Registry
Azure Cache for Redis
Azure Cosmos DB

Megoldási ötletek

Ez a cikk egy megoldási ötlet. Ha azt szeretné, hogy további információkkal bővítsük a tartalmat, például a lehetséges használati eseteket, alternatív szolgáltatásokat, megvalósítási szempontokat vagy díjszabási útmutatást, a GitHub visszajelzésével tudassa velünk.

Ez a cikk egy megoldást mutat be az Azure Kubernetes Service (AKS) használatával nagy mennyiségű streamelési adat gyors feldolgozására és elemzésére az eszközökről.

Az Apache®, az Apache Kafka és az Apache Spark az Apache Software Foundation bejegyzett védjegyei vagy védjegyei a Egyesült Államok és/vagy más országokban. Az Apache Software Foundation nem támogatja ezeket a jeleket.

Architektúra

Architektúradiagram, amely bemutatja, hogyan történik az eszközökről származó streamelési adatok betöltése, feldolgozása és elemzése.

Töltse le az architektúra Visio-fájlját.

Adatfolyam

  1. Az érzékelők adatokat hoznak létre és streamelnek az Azure API Managementbe.
  2. Az AKS-fürtök olyan mikroszolgáltatásokat futtatnak, amelyek tárolóként vannak üzembe helyezve egy szolgáltatásháló mögött. A tárolók devOps-folyamattal vannak létrehozva, és az Azure Container Registryben vannak tárolva.
  3. A betöltési szolgáltatás adatokat tárol az Azure Cosmos DB-ben.
  4. Aszinkron módon egy elemzési szolgáltatás fogadja az adatokat, és streameli az Apache Kafkába és az Azure HDInsightba.
  5. Az adattudósok gépi tanulási modelleket és Splunk platformot használnak az adatok elemzéséhez.
  6. A feldolgozó szolgáltatás feldolgozza az adatokat, és az eredményt az Azure Database for PostgreSQL-ben tárolja. A szolgáltatás az Azure Cache for Redisben is gyorsítótárazza az adatokat.
  7. A Azure-alkalmazás Szolgáltatásban futó webalkalmazás vizualizációkat hoz létre az eredményekről.

Összetevők

A megoldás a következő kulcsfontosságú technológiákat használja:

Forgatókönyv részletei

Ez a megoldás jó választás olyan forgatókönyvekhez, amelyek több millió adatpontot foglalnak magukban, ahol az adatforrások közé tartoznak az eszközök internetes hálózata (IoT) eszközök, érzékelők és járművek. Ilyen esetben a nagy mennyiségű adat feldolgozása kihívást jelent. Az adatok gyors elemzése egy másik igényes feladat, mivel a szervezetek igyekeznek betekintést nyerni az összetett forgatókönyvekbe.

Az AKS-ben a tárolóalapú mikroszolgáltatások a megoldás kulcsfontosságú részét képezik. Ezek az önálló szolgáltatások betöltik és feldolgozzák a valós idejű adatfolyamot. Szükség szerint skálázhatók is. A tárolók hordozhatósága lehetővé teszi, hogy a szolgáltatások különböző környezetben fussanak, és több forrásból származó adatokat dolgozzanak fel. A mikroszolgáltatások fejlesztéséhez és üzembe helyezéséhez a DevOps és a folyamatos integráció/folyamatos teljesítés (CI/CD) használatos. Ezek a megközelítések lerövidítik a fejlesztési ciklust.

A betöltött adatok tárolásához a megoldás az Azure Cosmos DB-t használja. Ez az adatbázis rugalmasan skálázza az átviteli sebességet és a tárolást, ami jó választás nagy mennyiségű adathoz.

A megoldás a Kafkát is használja. Ez az alacsony késésű streamelési platform rendkívül nagy sebességgel kezeli a valós idejű adatcsatornákat.

Egy másik kulcsfontosságú megoldásösszetevő a HDInsight, amely egy felügyelt, nyílt forráskódú felhőelemzési szolgáltatás. A HDInsight leegyszerűsíti a big data-keretrendszerek nagy mennyiségben és sebességgel történő futtatását, miközben az Apache Sparkot használja az Azure-ban. A Splunk segít az adatelemzési folyamatban. Ez a platform valós idejű adatokból hoz létre vizualizációkat, és üzleti intelligenciát biztosít.

Lehetséges használati esetek

Ez a megoldás a következő területeken előnyös:

  • Járműbiztonság, különösen az autóiparban
  • Ügyfélszolgálat a kiskereskedelemben és más iparágakban
  • Egészségügyi felhőmegoldások
  • Pénzügyi technológiai megoldások a pénzügyi iparágban

Következő lépések

Termékdokumentáció:

Microsoft-képzési modulok: