خلاصة
مع التقدم السريع في الذكاء الاصطناعي (AI)، تواجه شبكات مراكز البيانات التقليدية تحديات كبيرة عند نقل حركة مرور الذكاء الاصطناعي. يمكن أن يؤدي الاستخدام العالي لعرض النطاق الترددي وعدد صغير من تدفقات الفيل إلى جعل موازنة التحميل التقليدية لكل-تدفق غير فعالة، مما يؤدي إلى الازدحام وفقدان الحزم مما يؤدي إلى زيادة كبيرة في تدريب نموذج الذكاء الاصطناعي وأوقات إكمال المهمة. تتناول هذه الوثيقة التقنية تقنية التوجيه الديناميكي الذكي التي تجمع بين -الوعي بالوقت الحقيقي واتخاذ القرارات- الذكية. فهو يستخدم قياس جودة المسار-، ومزامنة سمة BGP الموسعة-، والتكلفة الديناميكية الموزونة-المسارات المتعددة (WCMP)، وإزالة المسار-غير الطبيعي، و
موازنة التحميل التلقائي على مستوى التدفق - (ALB) لتحسين جدولة حركة المرور في بيئات الذكاء الاصطناعي. يستخدم التصميم أيضًا المحاكاة الافتراضية لتوفير عزل-مستأجرين متعددين وتقديم سيناريوهات التطبيق وإرشادات التخطيط لشبكات مراكز بيانات الذكاء الاصطناعي الفعالة والمستقرة والذكية.
مقدمة: تطور الشبكة في الذكاء الاصطناعي عصر
لماذا تكافح الشبكات التقليدية مع الذكاء الاصطناعي مرور
في شبكات مراكز البيانات التقليدية، يعمل عدد كبير من التدفقات الصغيرة على تمكين موازنة حمل التدفق لكل- لتحقيق توزيع مقبول وتجنب الازدحام حتى بدون الوعي-في الوقت الحقيقي بظروف الشبكة. تختلف حركة مرور الذكاء الاصطناعي اختلافًا كبيرًا: استخدام عرض النطاق الترددي مرتفع للغاية وغالبًا ما يهيمن على حركة المرور عدد قليل فقط من تدفقات الأفيال. وبالتالي يمكن أن تؤدي تصادمات التجزئة إلى وضع تدفقات كبيرة متعددة على نفس المسار بينما تظل المسارات الأخرى غير مستخدمة بشكل كافٍ. بمجرد حدوث فقدان الحزمة، قد يزيد وقت إكمال عبء عمل الذكاء الاصطناعي بالكامل بشكل ملحوظ. ولهذا السبب، تركز الصناعة بشكل متزايد على خوارزميات موازنة التحميل المحسنة-لأنسجة الذكاء الاصطناعي بحيث يتم توزيع حركة المرور بشكل أكثر توازنًا عبر مسارات متعددة.
الشكل 1. مقارنة بين حركة تدفق الفيل-الذكية وحركة التدفق الصغيرة التقليدية-.
الجمع بين الوعي الديناميكي واتخاذ القرار الذكي-.
التوجيه الديناميكي الذكي هو تقنية موازنة-الأحمال-المعتمدة على الوعي. يستخدم جودة المسار التي تستشعرها المفاتيح الموجودة في النسيج لضبط اختيار المسار المحلي ويدعم موازنة التحميل الموزونة ديناميكيًا. بناءً على BGP، تحدد هذه التقنية سمة مجتمعية موسعة جديدة-.
يتم استخدام قياسات متعددة-عالية الدقة-لتقييم جودة المسار، ويتم نشر النتيجة من خلال BGP لتوجيه إعادة توجيه حركة المرور اللاحقة. يؤدي ذلك إلى تحسين توزيع التحميل على مستوى الشبكة- وتقليل وقت استجابة التطبيق [1].
الشكل 2. الوعي الديناميكي، والقرار، وسير العمل التنفيذ.
التقنيات الأساسية: جدولة حركة المرور الذكية
تتضمن طرق موازنة حمل الشبكة الرئيسية-ما يلي:
- لكل-تدفق ECMP: الأسلوب الأكثر شيوعًا، يعتمد على خمسة-تجزئة. إنه يعمل بشكل جيد عندما يكون هناك العديد من التدفقات ويحافظ على ترتيب الحزم، ولكن تصادمات التجزئة يمكن أن تؤدي إلى توازن ضعيف عندما تكون أعداد التدفق منخفضة، كما هو الحال في تدريب الذكاء الاصطناعي [1].
- التوازن القائم على التدفق-: يعتمد على التكوين الصحيح للفجوة بين التدفق-. يكون التكوين الدقيق أمرًا صعبًا عندما يكون زمن الاستجابة على مستوى المسار العام- غير معروف [1].
- لكل -حزمة ECMP: يوفر توازنًا نظريًا ممتازًا ولكنه قد يؤدي إلى إعادة ترتيب شامل للحزم عند جهاز الاستقبال [1].
يجمع أسلوب التوجيه الذكي الديناميكي الذي تستخدمه محولات XingRongyuan CX-N Series RoCE (المعتمدة على SONiC-) بين الموازنة المستندة إلى -تدفق ECMP وFlowlet-. يقدم WCMP الديناميكي (المسارات المتعددة للتكلفة المرجحة) وALB القائم على Flowlet - (موازنة التحميل التلقائي) [1].
قياس جودة المسار
يقوم النظام بتقييم جودة مسار الشبكة باستخدام العوامل التي تؤثر بشدة على بنية مجموعة الذكاء الاصطناعي، بما في ذلك استخدام عرض النطاق الترددي، واستخدام قائمة الانتظار، وزمن انتقال التوجيه.
العدادات الإحصائية
يتم قياس استخدام النطاق الترددي وقائمة الانتظار من خلال عدادات أجهزة ASIC بدقة تصل إلى مستوى المائة-ملي ثانية. يسجل ASIC إعادة توجيه المنافذ -وقائمة الانتظار-إعادة توجيه العدادات في الوقت الفعلي. يقرأ مستوى التحكم SONiC العدادات من خلال واجهة SAI بدقة أقل من - ثانية ويخزنها في Redis. تقوم عملية التحكم في التوجيه- بتقييم جودة الواجهة باستخدام هذه العدادات وتعلن عن النتيجة من خلال BGP. للحد من التحكم في -تحميل الطائرة، يتم حاليًا إرسال الإعلانات على فترات زمنية-من المستوى الثاني، مع تطبيق المتوسط المرجح على عينات متعددة؛ العينات الأحدث تحصل على وزن أعلى.
في-القياس عن بعد للنطاق
يعتمد قياس تأخير التوجيه- على INT (القياس عن بعد للشبكة في النطاق-) ويمكن أن يصل إلى دقة مستوى النانو ثانية-. يلتقط HDC (التقاط التأخير العالي) الحزم التي تعاني من زمن انتقال عالٍ داخل ASIC. عندما تتجاوز الحزمة حد التأخير المحدد بواسطة المستخدم-، يرسل المحول أول 150 بايت من الحزمة الأصلية مع بيانات التعريف، بما في ذلك منفذ الدخول ومنفذ الخروج ووقت الاستجابة، إلى المجمع. في هذا التصميم، تعمل وحدة المعالجة المركزية (CPU) كمجمع ومحلل HDC، مما يتيح -إعادة توجيه عالية الدقة-قياسات التأخير وتقييم أكثر دقة للمسار-الجودة.
الشكل 3. مسار-نشر الجودة وتثبيت WCMP.
تستخدم التقنية سمة مجتمع BGP الموسعة الجديدة-، وهي Path Bandwidth Extended Community، للإشارة إلى الجودة الإجمالية للمسار إلى الوجهة. بايت الترتيب الأعلى- لحقل النوع -الموسع هو 0x00 والبايت -المنخفض هو 0x05. في حقل القيمة، يمثل الحقل الفرعي للمسؤول العام رقم AS. يتم ترميز جودة المسار بأربع بايتات باستخدام تنسيق النقاط العائمة IEEE- ويتم التعبير عنها بالجيجابايت/ثانية.
عندما يتصل NIC1 مع NIC2، يعلن NIC2 أولاً عن عنوان IP الخاص به إلى Leaf2. تعلن Leaf2 عن عنوان العمود الفقري مع قيمة جودة الارتباط- تجاه NIC2 مضروبة في وزن الوصلة الهابطة Leaf2. يضيف العمود الفقري جودة الارتباط الموزونة الخاصة به ويمرر القيمة المتراكمة إلى Leaf1. يلخص Leaf1 جودة المسار ويقوم بتثبيت المسارات التي توجه عملية إعادة التوجيه. في نسيج-العمود الفقري-الورقي المكون من طبقتين، يتم تصنيف المنافذ على أنها وصلات ورقية صاعدة وروابط هابطة ورقية ومنافذ عمود فقري، مع معاملات حسابية قابلة للتكوين لكل فئة.
WCMP الديناميكي
تعمل موازنة التحميل على توزيع حركة المرور عبر روابط متعددة. في بيئات الذكاء الاصطناعي، يعد هذا أمرًا ضروريًا لبناء نسيج إيثرنت بدون فقدان مع الحد الأدنى من فقدان الحزمة وزمن الوصول وتدهور الإنتاجية. ECMP هي الآلية التقليدية في مراكز البيانات. يقوم WCMP بتوسيع ECMP عن طريق التوزيع
حركة المرور بشكل متناسب عبر الروابط. في التوجيه الديناميكي الذكي، يتم ضبط أوزان WCMP في الوقت الفعلي وفقًا لجودة المسار. على سبيل المثال، في حالة وجود مسارين بين NIC1 وNIC2، فقد يقوم النظام بحساب نسبة 3:7. مع تغير حركة المرور، يتم نشر معلومات جودة المسار-المحدثة من خلال BGP إلى كل محول طرفي، حيث يتم إنشاء مسارات WCMP الديناميكية لتوجيه عملية إعادة التوجيه.
إزالة المسار غير الطبيعي
عندما تنخفض الجودة الإجمالية للمسار عن الحد المتفق عليه، يعتبر المسار غير قابل للاستخدام لأعباء عمل الذكاء الاصطناعي وتتم إزالته من إعادة التوجيه. تستمر المسارات المتبقية في نقل حركة المرور عبر WCMP الديناميكي. بمجرد عودة المسار إلى طبيعته، يتم استعادته. على الرغم من أن هذا قد يترك بعض السعة غير مستخدمة مؤقتًا، إلا أنه يمنع حدوث ازدحام أكثر خطورة وفقدان الحزم [1].
موازنة الحمل الذكية (ALB)
يوفر ALB توزيعًا للأحمال يعتمد على Flowlet-. يقيس ASIC الحمل وزمن الوصول على منافذ مختلفة في الوقت الفعلي ويوجه كل تدفق إلى الارتباط مع تحميل أقل أو تأخير أقل. يؤدي هذا إلى إضافة جدولة أكثر دقة-فوق ECMP التقليدي. يدعم ALB أيضًا تجاوز فشل المنفذ ويعيد توزيع حركة المرور تلقائيًا عند فشل رابط الخروج [1].
الافتراضية
تحتاج شبكات الواجهة الأمامية-في كثير من الأحيان إلى دعم مستأجرين متعددين-لذلك يمكن تخصيص موارد GPU المختلفة لمستخدمين مختلفين. يستخدم الحل VRF (التوجيه والتوجيه الافتراضي) لعزل المستأجرين، مع تعيين VRF واحد لكل مستخدم. يتم وضع الشبكات الفرعية المرتبطة بـ GPU- في VRF الخاص بالمستخدم، وتقوم قوائم PRE ACL في ASIC بتصنيف حركة المرور الداخلة بحيث تتم إعادة توجيه حركة مرور كل مستخدم فقط داخل VRF المقابل [1].
سيناريوهات التطبيق
1. كيف يمتص WCMP الديناميكي الزيادات المرورية
بالنسبة للنسيج الذي يحتوي على منافذ وحدة معالجة الرسومات 256 × 400 جيجا، يمكن تصميم بنية Clos من مستويين-بنسبة تقارب 1:1 للوصلة الهابطة-إلى-الوصلة الصاعدة للحفاظ على إنتاجية عالية وعرض نطاق ترددي عالٍ وقدرة متناظرة. تشتمل نماذج المنتجات المناسبة على XingRongyuan CX864E-N أو CX732Q-N [1]. في ظل ECMP التقليدي، قد يتناثر عدد صغير من تدفقات الفيل AI إلى نفس العمود الفقري، مما يتسبب في ازدحام الوصلة الصاعدة أو فقدان الحزمة. يقوم WCMP الديناميكي بضبط توزيع حركة المرور بشكل مستمر وفقًا لجودة مسار الوقت الفعلي-، مما يقلل من زيادة حركة المرور ويتجنب الازدحام [1].
2.Flowlet-مستوى موازنة التحميل
في نفس نسيج وحدة معالجة الرسومات 256 × 400 جيجا، لا يتم تقديم كل جهاز أو حمل عمل بشكل أفضل بواسطة WCMP الديناميكي. يمكن للمحول تحديد ALB القائم على Flowlet- بشكل ديناميكي. يقيس ALB حمل الارتباطات وزمن الاستجابة لها في مجموعة ECMP ويرسل التدفقات إلى الروابط ذات الاستخدام الأقل أو التأخير. إذا أصبحت الواجهة محملة بشكل زائد أو زاد تأخير إعادة التوجيه، فإن ASIC يتجنب هذا الخروج تلقائيًا حتى تعود الظروف إلى وضعها الطبيعي [1].
تخطيط وتصميم شبكات الذكاء الاصطناعي
تتضمن خدمات الذكاء الاصطناعي عمومًا ثلاث مراحل: جمع البيانات ومعالجتها مسبقًا، والتدريب النموذجي، واستدلال الذكاء الاصطناعي. وتفرض كل مرحلة متطلبات مختلفة على الشبكة.
1. جمع البيانات والمعالجة المسبقة
يجب أن توفر شبكة جمع بيانات التدريب والمعالجة المسبقة-العالمية-موارد عامة واسعة النطاق ومرنة لعنوان IP وعرض النطاق الترددي بحيث يمكن جمع مجموعات البيانات الأولية الضخمة بكفاءة من الإنترنت العالمي. يجب أن يضمن التصميم نقلًا آمنًا ومستقرًا مع تحسين تجميع البيانات وأداء المعالجة المسبقة [2].
1.1 تجزئة VPC
يجب أن يتبع تصميم VPC لجمع البيانات السحابية-الامتيازات الأقل- والعزل الطبقي والتحكم في الأمان ومبادئ قابلية التوسع المرنة. يمكن استخدام VPCs متعددة أو شبكات فرعية متعددة داخل VPC واحد [2].
- التقسيم حسب مرحلة الخدمة: نشر جمع البيانات والمعالجة المسبقة والتخزين والتدريب والاستدلال في شبكات فرعية منفصلة أو VPCs. وضع نقاط دخول المجموعة في DMZ VPC أو الشبكة الفرعية العامة؛ وضع المعالجة المسبقة والبيانات المؤقتة في VPC مخصصة للمعالجة؛ وضع البيانات الأولية الحساسة والتدريب على الذكاء الاصطناعي في VPC (VPC) عالي الأمان-بدون إمكانية الوصول العام المباشر.
- العزل حسب مستوى الأمان: قم بإنشاء شبكات VPC أو شبكات فرعية عالية الأمان- ومتوسطة- ومنخفضة- واستخدم مجموعات الأمان وقوائم ACL للشبكة والاتصال الخاص للتحكم في حركة مرور-VPC وعبر-الشبكة الفرعية.
- العزل حسب المستأجر أو المشروع: قم بتعيين VPCs منفصلة لمستأجرين أو مشاريع مختلفة لعزل الموارد والشبكات والبيانات.
1.2 شبكة الخروج لجمع البيانات
بوابة NAT: استخدم مجموعة من EIPs وSNAT من خلال بوابة NAT، مما يسمح لبرامج التجميع بالوصول إلى الإنترنت من عناوين IP العامة المحددة عشوائيًا.
الوكيل -المبني ذاتيًا: انشر خوادم الوكيل التي تحافظ على التعيينات بين عمليات التجميع وعناوين IP العامة، وقم بتوزيع طلب تجميع واحد عبر وكلاء متعددين.
مزود خدمة IP: اتصل بموفر خدمة IP عبر الشبكة السحابية الخاصة بتكلفة أقل وأمان خاضع للرقابة وجودة مستقرة [2].
1.3 عبر-تجميع بيانات المنطقة والمعالجة المسبقة
حدد منطقة OSS وفقًا لخطة مجموعة -المعالجة المسبقة وقم بإنشاء -VPC لتجميع البيانات في نفس المنطقة. أنشئ جهاز توجيه نقل (TR) في كل منطقة، وقم بتوصيل VPCs المحلية، وقم بتوصيل TRs بحيث تتمكن VPCs للمجموعة الإقليمية من الوصول مباشرة إلى OSS المركزي. يمكن لخدمات مثل PAI-iTAG وMaxCompute وFlink إجراء تصنيف البيانات والمعالجة المسبقة في منطقة OSS [2].
2. شبكة التدريب النموذجية
تم دمج نموذج شبكة التدريب-بشكل محكم مع شبكة التجميع والمعالجة المسبقة لتكوين نسيج عالمي يربط بين مراكز البيانات السحابية وعقد الحافة ومراكز IDC-المحلية.
يوفر الاتصال البيني عالي السرعة-زمن وصول منخفض-وحركة بيانات عالية الإنتاجية-، بينما يجب تصميم عرض النطاق الترددي وسياسات الأمان وعناصر التحكم في الوصول والتعافي من الكوارث بشكل شامل [2].
- في-مجمع الحوسبة العنقودية عبر المنطقة-: يقوم جهاز توجيه النقل بتوصيل عدة VPCs داخل نفس المنطقة. تتصل وحدات ENI الخاصة بالخادم بمحولات VPC ويمكن تهيئتها للإنتاجية المطلوبة وRDMA.
- مجموعة الحوسبة السحابية المشتركة-: تعمل الدوائر المخصصة على توصيل IDC أو سحابة أخرى بنفس المنطقة-VPC. تتصل Alibaba Cloud VBRs في الطبقة الثالثة بالجهاز النظير، مع BGP وBFD وتجاوز الفشل السريع من أجل التقارب السريع.
مجمع الحوسبة العالمي: يتم توفير الروابط عبر المناطق- بين TRs وفقًا لذروة حركة المرور بين المناطق-، مع جودة خدمة اختيارية بين المناطق- لإنشاء تجمع حوسبة موحد عبر المناطق [2].
3. شبكة الخدمة-الاستدلالية العالمية
تختار شبكة الاستدلال العالمية نماذج النشر وفقًا للموارد والخدمات السحابية المتاحة في كل منطقة وتوفر توزيعًا فعالاً للخدمات والوصول إليها [2].
- نشر النموذج أو الوكيل: استخدم نشر Model Studio MaaS، أو نشر PAI-EAS أو Function Compute PaaS، أو نشر IaaS على EGS، أو ACK، أو ACS، أو Lingjun -البنية الأساسية المعدنية العارية داخل VPC للعميل.
- توزيع الخدمة: قم بإنشاء -VPC لتوزيع الاستدلال وتوصيل الشبكات الخاصة باستخدام VPC Peering أو السحابة المرتبطة-VPCs للخدمة أو PrivateLink. انشر ALB أو ALB المحسّن كنقطة وصول وطلبات الوكيل إلى نماذج أو وكلاء مختلفين.
- الوصول إلى الخدمة: يمكن لمستخدمي الإنترنت المحليين الوصول إلى ALB المحسن مباشرةً؛ يمكن للمستخدمين البعيدين استخدام Global Accelerator (GA)؛ يمكن لمستخدمي مؤسسة Alibaba Cloud الداخليين أو الخارجيين الاتصال بشكل خاص من خلال PrivateLink.
الاستنتاج والتوقعات
يشرح هذا المستند التقني التحديات التي تواجهها شبكات IDC في عصر الذكاء الاصطناعي وكيف يمكن للتوجيه الذكي الديناميكي معالجتها. يعمل الوعي الديناميكي، واتخاذ القرار الذكي-، والمحاكاة الافتراضية لـ WCMP، وALB، وVRF على تحسين كفاءة موازنة التحميل-، وتقليل الازدحام وفقدان الحزم، وتسريع تدريب الذكاء الاصطناعي والاستدلال. يركز قسم التخطيط على تجزئة VPC، وتصميم الخروج - للتجميع، والتجميع عبر -المناطق والمعالجة المسبقة، والتدريب على النماذج، وتسليم الاستدلال الشامل. مع استمرار تطور الذكاء الاصطناعي، ستواجه شبكات مراكز البيانات متطلبات أكثر صرامة. سيستمر التوجيه الذكي الديناميكي في التحسن بالنسبة لـ Edge AI والتعلم الموحد والسيناريوهات المعقدة الأخرى. ستركز شبكات IDC المستقبلية بشكل أكبر على تقارب شبكات الحوسبة{9}}وكفاءة الطاقة والعمليات الآلية، مما يؤدي إلى إنشاء أساس أكثر ذكاءً وكفاءة وموثوقية للاقتصاد الرقمي.
مراجع
قدم المستخدم-مستند المصدر الفني.
الورقة البيضاء لشبكة علي بابا السحابية للذكاء الاصطناعي. تم الوصول إليه في 27 مايو 2026.
https://help.aliyun.com/zh/cloud-شبكة-جيدة-مصممة-تصميم/علي بابا-سحابة-ai-شبكة-ورقة بيضاء-