ستساعدك المقالة التالية: يوقع خبراء التكنولوجيا على رسالة مفتوحة تدعو إلى التوقف المؤقت لتدريب أنظمة الذكاء الاصطناعي الأكثر تقدمًا من GPT-4
وقع أكثر من 1100 موقع ، بما في ذلك خبراء تقنيون بارزون ، على خطاب مفتوح يدعو إلى التوقف لمدة ستة أشهر لتدريب أنظمة الذكاء الاصطناعي الأكثر تقدمًا من GPT-4.
كتب الرسالة معهد Future of Life ، وهي منظمة غير ربحية تعمل على تقليل المخاطر الكارثية والوجودية العالمية التي تواجه البشرية ، ولا سيما المخاطر الوجودية من الذكاء الاصطناعي المتقدم.
نقلاً عن مبادئ Asilomar AI المعتمدة على نطاق واسع ، والتي تنص على أن “الذكاء الاصطناعي المتقدم يمكن أن يمثل تغييرًا عميقًا في تاريخ الحياة على الأرض ، ويجب التخطيط له وإدارته بما يتناسب من الرعاية والموارد” ، تنص الرسالة على أن مستوى التخطيط و الإدارة لا تحدث.
يمضي الخطاب ليقول إن مختبرات الذكاء الاصطناعي في سباق “خارج عن السيطرة” لتطوير ذكاء اصطناعي قوي بشكل متزايد لا يمكن لأحد فهمه أو التنبؤ به أو التحكم فيه بشكل موثوق. نظرًا لأن أنظمة الذكاء الاصطناعي المعاصرة مثل GPT-4 يمكنها التنافس مع البشر في المهام العامة ، فإن الرسالة تثير مخاوف بشأن تحيزات المعلومات بواسطة الذكاء الاصطناعي ، وأتمتة الوظائف ، وخطر فقدان السيطرة على الحضارة البشرية.
“ندعو جميع مختبرات الذكاء الاصطناعي إلى التوقف فورًا لمدة 6 أشهر على الأقل عن تدريب أنظمة الذكاء الاصطناعي الأكثر قوة من GPT-4. يجب أن يكون هذا التوقف علنيًا ويمكن التحقق منه ، وأن يشمل جميع الجهات الفاعلة الرئيسية. إذا لم يكن بالإمكان تفعيل مثل هذا الوقف المؤقت بسرعة ، فيجب على الحكومات التدخل وفرض حظر ، “
تنص الرسالة.
تطالب الرسالة مختبرات الذكاء الاصطناعي وخبراء التكنولوجيا باستغلال فترة التوقف لتطوير وتنفيذ بروتوكولات السلامة لتصميم وتطوير ذكاء اصطناعي متقدم يتم تدقيقه بدقة والإشراف عليه من قبل خبراء خارجيين مستقلين.
ومع ذلك ، انتقد الصحفي الأمريكي جيف جارفيس الرسالة ، قول أنها “عينة أولية من الذعر الأخلاقي”.
من بين العقول الرائدة في مجال التكنولوجيا والتعلم الآلي الذين وقعوا الرسالة جنبًا إلى جنب مع علماء أبحاث DeepMind والعديد من أساتذة الجامعات من جميع أنحاء العالم:
- يوشوا بنجيو ، جامعة مونتريال ، الحائز على جائزة تورينغ لتطوير التعلم العميق ، رئيس معهد مونتريال لخوارزميات التعلم
- ستيوارت راسل ، بيركلي ، أستاذ علوم الكمبيوتر ، ومدير مركز الأنظمة الذكية ، والمؤلف المشارك للكتاب القياسي “الذكاء الاصطناعي: نهج حديث”
- Elon Musk ، الرئيس التنفيذي لشركة SpaceX و Tesla & Twitter
- عماد مستقي ، الرئيس التنفيذي لشركة Stability AI
- جان تالين ، الشريك المؤسس لـ Skype، مركز دراسة المخاطر الوجودية ، معهد مستقبل الحياة
- غاري ماركوس ، جامعة نيويورك ، باحث في الذكاء الاصطناعي ، أستاذ فخري
- مارك روتنبرغ ، رئيس مركز الذكاء الاصطناعي والسياسة الرقمية (CAIDP)
في رسالة حديثة ، كتب Rotenberg أن CAIDP سيقدم شكوى إلى لجنة التجارة الفيدرالية ، داعيًا إلى التحقيق في Open AI و ChatGPT ، بالإضافة إلى حظر على المزيد من الإصدارات التجارية للمنتج حتى يتم وضع الضمانات.
الرئيس التنفيذي لشركة OpenAI سام التمان لديه اعترف أننا “نحتاج أيضًا إلى وقت كافٍ لمؤسساتنا لمعرفة ما يجب القيام به” وأن المجتمع ليس بعيدًا عن أدوات الذكاء الاصطناعي التوليدية “المخيفة”.
نحتاج أيضًا إلى وقت كافٍ لمؤسساتنا لمعرفة ما يجب القيام به. سيكون التنظيم أمرًا بالغ الأهمية وسيستغرق وقتًا لمعرفة ذلك ؛ على الرغم من أن أدوات الذكاء الاصطناعي من الجيل الحالي ليست مخيفة للغاية ، أعتقد أننا لسنا بعيدين عن الأدوات المخيفة المحتملة.
– سام التمان (sama) 19 فبراير 2023
“نحن نطلب من لجنة التجارة الفيدرالية” الضغط على زر الإيقاف المؤقت “حتى تكون هناك فرصة لمؤسساتنا وقوانيننا ومجتمعنا للحاق بالركب. نحن بحاجة إلى تأكيد الوكالة على التقنيات التي نبتكرها قبل أن نفقد السيطرة “، كما جاء في خطاب CAIDP.
في أماكن أخرى ، يهدف المشرعون في الاتحاد الأوروبي إلى توقيع اتفاق مع دول الاتحاد الأوروبي بحلول نهاية العام لتنفيذ قواعد الذكاء الاصطناعي ، على الرغم من أنه قد يواجه عنق الزجاجة مع تكثيف المناقشات حول كيفية إدارة الذكاء الاصطناعي.
اقرأ أكثر:
