ستساعدك المقالة التالية: كل ما تحتاج لمعرفته حول التعلم التباين في الرسم البياني
أثار التعلم الخاضع للإشراف الذاتي للبيانات المهيكلة بالرسوم البيانية اهتمامًا مؤخرًا بتعلم التمثيلات القابلة للتعميم والقابلة للتحويل والقوية من الرسوم البيانية غير المسماة. تقوم تقنية الرسم البياني المتباين (GCL) أولاً بإنشاء العديد من طرق عرض الرسم البياني من خلال التعزيزات العشوائية للمدخلات ثم تتعلم التمثيلات من خلال مقارنة العينات الإيجابية مقابل العينات السلبية. في هذه المقالة ، سنناقش الجانب النظري للتعلم التباين في الرسم البياني. فيما يلي المواضيع التي سيتم تناولها.
جدول المحتويات
- ما هو الرسم البياني التباين (GCL)؟
- متى تستخدم GCL؟
- التعلم تحت الإشراف الذاتي
- كيف يعمل؟
- مزايا وعيوب GCL
- تطبيق GCL
لنبدأ بمقدمة إلى Graph Contrastive Learning ونعرف لماذا لا يحتاج إلى أي تعليقات توضيحية بشرية.
ما هو التعلم التباين في الرسم البياني؟
التعلم التباين في الرسم البياني (GCL) ، كما يوحي الاسم ، يتناقض مع عينات الرسم البياني ويدفع أولئك الذين ينتمون إلى نفس التوزيع تجاه بعضهم البعض في مساحة مضمنة. من ناحية أخرى ، يتم الضغط على أولئك الذين ينتمون إلى توزيعات مختلفة ضد بعضهم البعض.
العمود الفقري لهذه الطريقة هو التعلم التقابلي. يستخدم مهام الوكيل لتوجيه تعلم التمثيلات. تم تصميم مهمة الوكيل للتنبؤ بأي جزء من المدخلات من أي جزء آخر تمت ملاحظته.
- التعلم التقابلي هو تعلم يتم الإشراف عليه ذاتيًا حيث يتم وضع نقاط البيانات غير المسماة جنبًا إلى جنب لتشكيل نموذج من النقاط المتشابهة والمختلفة.
لذلك ، نمط تباين عام يميز مساحة التصميم ذات الأهمية في أربعة أبعاد
- وظائف زيادة البيانات ،
- أوضاع التباين
- أهداف متباينة
- استراتيجيات التعدين السلبية
تحقق من هنا.
متى تستخدم GCL؟
حيث يهدف GCL إلى تعلم تمثيل الرسم البياني بمساعدة التعلم التباين. يتم استخدامه عندما تكون هناك حاجة لفهم تضمين العقد ذات الأبعاد المنخفضة على حد سواء المعلومات الهيكلية والنسبية.
على سبيل المثال ، نقوم بتطوير برنامج ذكاء إصطناعي للأشخاص الصم كلغة إشارة ولدينا بيانات تتعلق بالتمثيل الرسومي لإيماءات اليد. الآن يجب تعلم كل عقدة في التمثيل لفهم لغة الإشارة والرد عليها بالإشارات.
تسمى هذه العقد منخفضة الأبعاد لأنها تحتوي على عدد أقل من الميزات التي يجب تعلمها مقارنة بالملاحظات. لذلك لتعلم المعلومات الهيكلية والنسبية لكل تمثيل رسومي ، سنستخدم GCL كنموذج ما قبل التدريب وللنموذج المستهدف ، يمكننا استخدام NN.
نظرًا لأن التعلم التباين في الرسم البياني يستخدم التعلم التقابلي وهو أسلوب يتم الإشراف عليه ذاتيًا ، فلنفهم أساسيات التعلم تحت الإشراف الذاتي.
التعلم تحت الإشراف الذاتي
يتعلم النظام توقع جزء من مدخلاته من أجزاء أخرى من مدخلاته في التعلم تحت الإشراف الذاتي. بمعنى آخر ، يتم استخدام جزء من المدخلات كإشارة إشرافية للمتنبئ الذي يغذي باقي البيانات. قد تتعلم الشبكات العصبية على مرحلتين عند استخدام التعلم تحت الإشراف الذاتي:
- يمكن معالجة مشاكل التسميات الخاطئة لتهيئة وزن الشبكات.
- يمكن إكمال المهمة الحقيقية للعملية من خلال التعلم الخاضع للإشراف أو غير الخاضع للإشراف.
لماذا يتم استخدام التعلم تحت الإشراف الذاتي في GCL؟
نظرًا لثلاث نقاط رئيسية ، يتم استخدام التعلم بالإشراف الذاتي بدلاً من التعلم الخاضع للإشراف.
- قابلية التوسع: للتنبؤ بنتيجة البيانات غير المعروفة ، يتطلب نهج التعلم الخاضع للإشراف بيانات مصنفة. ومع ذلك ، قد يحتاج بناء النماذج التي تولد تنبؤات جيدة إلى مجموعة بيانات ضخمة. يستغرق وضع العلامات اليدوي للبيانات وقتًا وغالبًا ما يكون غير عملي. هذا هو المكان الذي يكون فيه التعلم تحت الإشراف الذاتي مفيدًا لأنه يقوم بأتمتة العملية حتى عند التعامل مع كميات هائلة من البيانات.
- قدرات محسنة: يقدم التعلم تحت الإشراف الذاتي مجموعة واسعة من التطبيقات في رؤية الكمبيوتر ، بما في ذلك التلوين ، والتناوب ثلاثي الأبعاد ، وإكمال العمق ، وملء السياق. مجال آخر حيث يتفوق التعلم تحت الإشراف الذاتي هو التعرف على الكلام.
- تدخل بشري: يتم إنشاء الملصقات تلقائيًا عن طريق التعلم تحت الإشراف الذاتي دون الحاجة إلى تفاعل بشري.
دعونا نتعمق في مفهوم التعلم التقابلي وكيف يتم استخدامه في مجال الرسم البياني.
كيف يعمل؟
الهدف من GCL هو إنشاء عينات مختلفة من الرسم البياني للإدخال وتدريب الخوارزمية لتعلم سمات الأبعاد المنخفضة للتمثيل الرسومي والتي سيتم تصنيفها بعد ذلك إلى مجموعات فرعية إيجابية وسلبية.
الصيغة الرياضية
رسم بياني إدخال بخاصيتين أساسيتين: مجموعة العقدة ومجموعة الحافة. أثناء التدريب ، لا توجد معلومات صفية مقدمة للعقد أو الرسوم البيانية في سياق التعلم التمثيلي غير الخاضع للإشراف. هدفنا هو تدريب مشفر GNN الذي يأخذ خصائص الرسم البياني وهيكله كمدخلات ويخلق زخارف عقدة منخفضة الأبعاد.
قد نقوم أيضًا بإنشاء تمثيل على مستوى الرسم البياني للرسم البياني للإدخال الذي يجمع الزخارف على مستوى العقدة للأنشطة الموجهة للرسم البياني. يمكن استخدام هذه التمثيلات في المهام اللاحقة مثل تصنيف العقدة / الرسم البياني واكتشاف المجتمع.
يتم تطبيق التعزيزات العشوائية في كل دورة تدريبية لإنتاج مناظير رسم بياني مختلفة من الرسم البياني للإدخال. نقوم بتجربة وظيفتين من وظائف التعزيز لبناء عرضين للرسم البياني مع جميع وظائف التحويل المحتملة. ثم نستخدم مشفر GNN الشائع للحصول على تمثيلات العقدة للطريقتين. يمكن استخدام وظيفة القراءة للحصول على تمثيلات الرسم البياني لكل عرض رسم بياني إذا رغبت في ذلك.
يحدد وضع التباين مجموعة موجبة ومجموعة سالبة لكل عقدة تتضمن “V” كمثيل مرساة. تتكون المجموعة الإيجابية في سياق التعلم الخالص غير الخاضع للإشراف من حفلات الزفاف في عرضي الرسم البياني المعززين المطابقين لنفس العقدة أو الرسم البياني. وتجدر الإشارة إلى أنه عند استخدام الإشراف على الملصق ، يمكن زيادة المجموعة الإيجابية بواسطة عينات من نفس الفئة.
علاوة على ذلك ، قد نستخدم خوارزميات التعدين السلبية لتحسين مجموعة العينات السلبية من خلال مراعاة التشابه النسبي للعينات السلبية. أخيرًا ، نقوم بتصنيف هذه الأزواج الإيجابية والسلبية المحددة باستخدام هدف تباين.
لذلك ، يمكن تقسيم العملية برمتها إلى أربعة أجزاء رئيسية.
- هدف زيادة البيانات هو إنتاج عينات إيجابية متطابقة تحافظ على الهوية من شبكة معينة. تستلزم غالبية أعمال GCL أساليب التعزيز ثنائية المستوى مثل التحول الهيكلي وتحويل الميزات.
- في حالة المرساة ، أوضاع التباين تحديد المجموعات الموجبة والسالبة عند مستويات مختلفة من الرسم البياني. يتم استخدام ثلاثة أشكال متباينة من العمل بشكل منتظم في العمل السائد.
- هدف المحلي المحلي CL هو تباين التمثيلات على مستوى العقدة في وجهتي النظر. مرساة تضمين العقدة هي “V” ، والعينة الإيجابية هي نظيرتها المتطابقة في المنظور الآخر “U” ؛ يتم اختيار حفلات الزفاف بخلاف “U” بشكل طبيعي على أنها سلبيات.
- العالمية CL يضمن توافق عمليات الزفاف على مستوى العقدة والرسم البياني. على سبيل المثال ، إذا كان التضمين العام هو مثيل الارتساء ، فإن العينة الإيجابية هي جميع عمليات دمج العقد الخاصة بها عبر الشبكة. إذا كانت وظيفة القراءة معبرة بدرجة كافية ، فيمكن استخدام المخطط العالمي المحلي كبديل لـ CL المحلي المحلي.
- عالمي محلي CL يضمن تناسق تضمين الرسم البياني للعرضين المعززين من نفس الرسم البياني. العينة الموجبة للرسم البياني الذي يتضمن “S1” هي تضمين “S2” للعرض المحسّن الآخر. تعتبر حفلات الزفاف الأخرى في الرسم البياني في الدفعة عينات سلبية في هذه الحالة.
- يتم تحديد مساحة وضع التباين من خلال المهام اللاحقة. بالنسبة لمجموعات بيانات العقد ، فإن CL المحلية والعالمية المحلية هي فقط المناسبة ، ولكن يمكن لمجموعات بيانات الرسم البياني استخدام الأوضاع الثلاثة جميعها. لفهم أفضل ، راجع الرسم التوضيحي المرئي السابق.
- لتدريب المشفر ، أهداف متناقضة يتم توظيفها لتعظيم التوافق بين العينات الإيجابية والتفاوت بين السلبيات.
- بخلاف مثيل الارتساء ، تكون عمليات تضمين العقد أو الرسوم البيانية متميزة عن المرساة وبالتالي تفكر في السلبيات. ونتيجة لذلك ، فمن المنطقي أن نستنتج أن أحجام الدُفعات / العينات الأكبر مطلوبة لتعلم التباين الناجح (CL) لتضمين المزيد من السلبيات لتقديم إشارات تدريب أكثر فائدة. يشار إلى هذا باسم استراتيجية التعدين السلبية.
مزايا وعيوب GCL
دعنا نلقي نظرة على مزايا وعيوب التعلم التباين في الرسم البياني.
فوائد
- إنه تعلم يتم الإشراف عليه ذاتيًا ، لذلك ليست هناك حاجة إلى أي تعليقات توضيحية بشرية.
- من خلال تعظيم المعلومات المتبادلة ، يتم استخدام GCL لإنشاء عروض متعددة لنفس الرسم البياني.
- لا تعتمد على جودة البيانات. يمكن أن تعمل على بيانات منخفضة الجودة.
عيوب
- بسبب زيادة البيانات ، يتم تكبد فقدان المعلومات.
- احتمال كبير للهجوم العدائي بسبب الطبيعة المنفصلة للحواف والعقد في الرسوم البيانية.
- فرط التأمل للمتعلم.
تطبيق GCL
- في علم النبات ، يساعد GCL في فهم التركيب الجزيئي للعينات المختلفة ، والتي يمكن تصنيفها بعد ذلك بشكل أكبر.
- يساعد تعلم Graph Contrast في إضافة ألوان متعددة إلى صورة معينة.
- تساعد GCL في التنبؤ الواعي بالسياق. يساعد في إكمال السياق في حالة نقص بعض العناصر.
- يمكن استخدام GCL كنموذج ما قبل التدريب للهدف. يشار إلى هذا باسم نقل المعرفة. لأنه يمكن أن يعمل بكميات أقل من البيانات.
- يستخدم GCL لتحديد العلاقة بين عدة تصحيحات في الصورة.
الأحكام الختامية
تعلم تباين الرسم البياني هو تعلم يتم الإشراف عليه ذاتيًا والذي يزيد من البيانات ويعتمد على التعزيز الذي يتعلم سمات مختلفة حول البيانات في مستويات الجذر. في هذه المقالة ، ناقشنا وظائف GCL التي تساعد على فهم عملياتها الخلفية ومكان تنفيذ هذا النوع من المتعلم.
