على الرغم من أنني واجهت الكثير من التطبيقات المتعلقة بالذكاء الاصطناعى والتطبيقات الذكاء الاصطناعى ، مما أحدث تأثيراً إيجابياً في العالم الواقعي ، إلا أنني أخشى أن ImageNet Roulette ليس من بينها بالتأكيد. بدلا من ذلك ، فإنه يكشف الجزء المظلم من منظمة العفو الدولية. يتم عرض النموذج حاليًا كجزء من معرض تدريب البشر من قِبل تريفور باغلن وكيت كراوفورد في متحف فوندازيون برادا في ميلانو.
"ImageNet Roulette هو استفزاز مصمم لمساعدتنا على رؤية الطرق التي يصنف بها البشر في أنظمة التعلم الآلي. يستخدم شبكة عصبية مدربة على فئات "الشخص" من مجموعة بيانات ImageNet التي تحتوي على أكثر من 2500 علامة تستخدم لتصنيف صور الأشخاص. "يصف المبدعين.
يستخدم النظام إطار عمل للتعلم العميق مفتوح المصدر لـ Caffe يتم تدريبه على الصور والملصقات التي تنتمي إلى فئة "الشخص". يكتشف ImageNet Roulette أولاً الوجوه في مدخلات الصور. إذا وجدت واحدة ، سيتم إرسال الصورة إلى نموذج كافيه للتصنيف. إذا لم يكن الأمر كذلك ، يتم إرجاع الصورة الأصلية مع تسمية في الزاوية اليسرى العليا.
يتم استخلاص الفئات من WordNet وهي تحتوي على الكثير من الفئات المسيئة التي قد تكون عنصرية وحتى مسيئة للمرأة في بعض الأحيان. نريد أن نلقي الضوء على ما يحدث عندما يتم تدريب النظم الفنية على بيانات التدريب التي تنطوي على مشاكل. نادراً ما يتم تصنيف تصنيفات الذكاء الاصطناعي للأشخاص الذين يتم تصنيفهم. تقدم ImageNet Roulette لمحة عن تلك العملية – ولتوضيح الطرق التي يمكن أن تسوء بها الأمور. "، قل المبدعين.
كما ترون أدناه ، تصف الشبكة العصبية عينة صورة ليوناردو دي كابريو بأنها "منافق" ، و "dissembler" ، و "dissimulator" ، وكلمتين أكثر عدوانية. ولكن الجزء الأسوأ هو الوصف الذي قدمته:الشخص الذي يعترف بالمعتقدات والآراء التي لا يحملها من أجل إخفاء مشاعره أو دوافعها الحقيقية ".
في الواقع ، تُعد ImageNet Roulette مثالًا مثاليًا لما يجب ألا يكون عليه نموذج AI وما مدى سوءه إذا تم استخدام مجموعة البيانات الخاطئة في تدريب النماذج المستندة إلى AI. إذن ، ما هي أفكارك حول ImageNet Roulette؟ اسمحوا لنا أن نعرف في التعليقات.
