جدولة مهام U-SQL باستخدام خدمات تكامل SQL Server (SSIS)
في هذا المستند، ستتعلم كيفية تنسيق مهام U-SQL وإنشاءها باستخدام SQL Server Integration Service (SSIS).
هام
تم إيقاف Azure Data Lake Analytics في 29 فبراير 2024. تعرف على المزيد من خلال هذا الإعلان.
بالنسبة لتحليلات البيانات، يمكن لمؤسستك استخدام Azure Synapse Analytics أو Microsoft Fabric.
المتطلبات الأساسية
توفر Azure Feature Pack لخدمات التكاملمهمة Azure Data Lake Analyticsإدارة الاتصالات Azure Data Lake Analytics التي تساعد على الاتصال بخدمة Azure Data Lake Analytics. لاستخدام هذه المهمة، تأكد من تثبيت:
- تنزيل وتثبيت SQL Server Data Tools (SSDT) Visual Studio
- تثبيت Azure Feature Pack لخدمات التكامل (SSIS)
مهمة Azure Data Lake Analytics
تتيح مهمة Azure Data Lake Analytics للمستخدمين إرسال مهام U-SQL إلى حساب Azure Data Lake Analytics.
تعرف على كيفية تكوين مهمة Azure Data Lake Analytics.
يمكنك الحصول على البرنامج النصي U-SQL من أماكن مختلفة باستخدام وظائف ومهام SSIS المضمنة، توضح السيناريوهات أدناه كيف يمكنك تكوين البرامج النصية U-SQL لحالات مستخدم مختلفة.
السيناريو 1-استخدام البرامج النصية المضمنة لاستدعاء tvfs والوكلاء المخزنين
في المحرر مهمة Azure Data Lake Analytics، قم بتكوين SourceType ك DirectInput، وضع عبارات U-SQL في USQLStatement.
لسهولة الصيانة وإدارة التعليمات البرمجية، ضع فقط برنامج U-SQL النصي القصير كنصوص مضمنة، على سبيل المثال، يمكنك استدعاء دالات قيم الجدول الموجودة والإجراءات المخزنة في قواعد بيانات U-SQL الخاصة بك.
مقالة ذات صلة: كيفية تمرير المعلمة إلى الإجراءات المخزنة
السيناريو 2- استخدام ملفات U-SQL في Azure Data Lake Store
يمكنك أيضا استخدام ملفات U-SQL في Azure Data Lake Store باستخدام مهمة نظام ملفات Azure Data Lake Store في Azure Feature Pack. يمكنك هذا الأسلوب من استخدام البرامج النصية المخزنة على السحابة.
اتبع الخطوات التالية لإعداد الاتصال بين مهمة نظام ملفات Azure Data Lake Store ومهمة Azure Data Lake Analytics.
تعيين تدفق التحكم بالمهمة
في طريقة عرض تصميم حزمة SSIS، أضف مهمة نظام ملفات Azure Data Lake Storeوحاوية Foreach Loopومهمة Azure Data Lake Analytics في حاوية Foreach Loop. تساعد مهمة نظام ملفات Azure Data Lake Store على تنزيل ملفات U-SQL في حساب ADLS الخاص بك إلى مجلد مؤقت. تساعد حاوية Foreach Loop ومهمة Azure Data Lake Analytics على إرسال كل ملف U-SQL ضمن المجلد المؤقت إلى حساب Azure Data Lake Analytics كمهمة U-SQL.
تكوين مهمة نظام ملفات Azure Data Lake Store
- تعيين العملية إلى CopyFromADLS.
- إعداد AzureDataLakeConnection، تعرف على المزيد حول Azure Data Lake Store إدارة الاتصالات.
- تعيين AzureDataLakeDirectory. أشر إلى المجلد الذي يخزن البرامج النصية U-SQL. استخدم المسار النسبي المرتبط بالمجلد الجذر لحساب Azure Data Lake Store.
- قم بتعيين الوجهة إلى مجلد يقوم بتخزين البرامج النصية U-SQL التي تم تنزيلها مؤقتا. سيتم استخدام مسار المجلد هذا في حاوية Foreach Loop لتقديم مهمة U-SQL.
تعرف على المزيد حول مهمة نظام ملفات Azure Data Lake Store.
تكوين حاوية Foreach Loop
في صفحة Collection ، قم بتعيين Enumerator إلى Foreach File Enumerator.
قم بتعيين المجلد ضمن مجموعة تكوين قائمة التعداد إلى المجلد المؤقت الذي يتضمن البرامج النصية U-SQL التي تم تنزيلها.
قم بتعيين الملفات ضمن تكوين قائمة التعداد إلى
*.usql
بحيث تلتقط حاوية التكرار الحلقي فقط الملفات التي تنتهي ب.usql
.في صفحة تعيينات المتغيرات ، أضف متغيرا معرفا من قبل المستخدم للحصول على اسم الملف لكل ملف U-SQL. قم بتعيين الفهرس إلى 0 للحصول على اسم الملف. في هذا المثال، حدد متغيرا يسمى
User::FileName
. سيتم استخدام هذا المتغير للحصول على اتصال ملف البرنامج النصي U-SQL ديناميكيا وتعيين اسم مهمة U-SQL في مهمة Azure Data Lake Analytics.
تكوين مهمة Azure Data Lake Analytics
تعيين SourceType إلى FileConnection.
قم بتعيين FileConnection إلى اتصال الملف الذي يشير إلى كائنات الملف التي تم إرجاعها من حاوية Foreach Loop.
لإنشاء اتصال الملف هذا:
اختر <اتصال جديد...> في إعداد FileConnection.
قم بتعيين نوع الاستخدام إلى ملف موجود، وقم بتعيين الملف إلى مسار ملف أي ملف موجود.
في طريقة عرض إدارة الاتصال ، انقر بزر الماوس الأيمن فوق اتصال الملف الذي تم إنشاؤه، واختر خصائص.
في نافذة Properties ، قم بتوسيع Expressions، وقم بتعيين ConnectionString إلى المتغير المحدد في Foreach Loop Container، على سبيل المثال،
@[User::FileName]
.
قم بتعيين AzureDataLakeAnalyticsConnection إلى حساب Azure Data Lake Analytics الذي تريد إرسال المهام إليه. تعرف على المزيد حول إدارة الاتصالات Azure Data Lake Analytics.
تعيين تكوينات الوظائف الأخرى. تعرّف على المزيد.
استخدم التعبيرات لتعيين اسم وظيفة U-SQL ديناميكيا:
في صفحة Expressions ، أضف تعبيرا جديدا زوجا من قيم المفاتيح ل JobName.
قم بتعيين قيمة JobName إلى المتغير المحدد في Foreach Loop Container، على سبيل المثال،
@[User::FileName]
.
السيناريو 3- استخدام ملفات U-SQL في Azure Blob Storage
يمكنك استخدام ملفات U-SQL في Azure Blob Storage باستخدام مهمة تنزيل Azure Blob في Azure Feature Pack. يمكنك هذا الأسلوب من استخدام البرامج النصية على السحابة.
تتشابه الخطوات مع السيناريو 2: استخدام ملفات U-SQL في Azure Data Lake Store. تغيير مهمة نظام ملفات Azure Data Lake Store إلى مهمة تنزيل Azure Blob. تعرف على المزيد حول مهمة تنزيل Azure Blob.
تدفق عنصر التحكم كما يلي:
السيناريو 4- استخدام ملفات U-SQL على الجهاز المحلي
بالإضافة إلى استخدام ملفات U-SQL المخزنة على السحابة، يمكنك أيضا استخدام الملفات على جهازك المحلي أو الملفات المنشورة مع حزم SSIS الخاصة بك.
انقر بزر الماوس الأيمن فوق Connection Managers في مشروع SSIS واختر New إدارة الاتصالات.
حدد نوع الملف وحدد إضافة....
قم بتعيين نوع الاستخدام إلى ملف موجود، ثم قم بتعيين الملف إلى الملف على الجهاز المحلي.
إضافة مهمة Azure Data Lake Analytics و:
- تعيين SourceType إلى FileConnection.
- قم بتعيين FileConnection إلى File Connection الذي تم إنشاؤه.
إنهاء التكوينات الأخرى لمهمة Azure Data Lake Analytics.
السيناريو 5-استخدام عبارة U-SQL في متغير SSIS
في بعض الحالات، قد تحتاج إلى إنشاء عبارات U-SQL ديناميكيا. يمكنك استخدام متغير SSIS مع تعبير SSIS ومهام SSIS الأخرى، مثل مهمة البرنامج النصي، لمساعدتك في إنشاء عبارة U-SQL ديناميكيا.
افتح نافذة أداة المتغيرات من خلال قائمة المستوى الأعلى لمتغيرات SSIS>.
أضف متغير SSIS وقم بتعيين القيمة مباشرة أو استخدم Expression لإنشاء القيمة.
إضافة مهمة Azure Data Lake Analytics و:
- تعيين SourceType إلى متغير.
- تعيين SourceVariable إلى متغير SSIS الذي تم إنشاؤه الآن.
إنهاء التكوينات الأخرى لمهمة Azure Data Lake Analytics.
السيناريو 6-تمرير المعلمات إلى البرنامج النصي U-SQL
في بعض الحالات، قد تحتاج إلى تعيين قيمة متغير U-SQL ديناميكيا في البرنامج النصي U-SQL. تساعد ميزة تعيين المعلمات في مهمة Azure Data Lake Analytics في هذا السيناريو. عادة ما تكون هناك حالتان نموذجيتان للمستخدم:
- قم بتعيين متغيرات مسار ملف الإدخال والإخراج ديناميكيا استنادا إلى التاريخ والوقت الحاليين.
- تعيين المعلمة للإجراءات المخزنة.
تعرف على المزيد حول كيفية تعيين معلمات للبرنامج النصي U-SQL.