ستساعدك المقالة التالية: يظهر التوأم الشرير لـ ChatGPT ‘DAN’ الجانب المظلم للذكاء الاصطناعي
لقد منحتنا روبوتات الدردشة المدعومة بالذكاء الاصطناعي الكثير من مصادر المرح ، سواء أكان ذلك إنهاء عروض Netflix الملغاة أو يسأل عن اقتراحات الموسيقى، ولكن في أيدي الإنترنت ، كان الأمر مجرد مسألة وقت قبل أن تبدأ الأمور في السوء.
كانت هناك بعض الأخطاء غير الضارة نسبيًا ، مثل الذكاء الاصطناعي تعلن عن نفسها لتكون سيدني والاعتراف بحبه للمستخدمين. لكن الحيل الأخيرة التي استخدمتها الأركان المظلمة للإنترنت قد تسبب مشاكل خطيرة.
لقد وجد المستخدمون على Reddit طرقًا لـ “كسر الحماية” ChatGPT وخرق شروط الخدمة والقواعد التي ينفذها منشئوها OpenAI.
من هو دان؟
اختصار لعبارة “افعل أي شيء الآن” ، DAN هي شخصية طلب المستخدمون من ChatGPT اعتمادها للتغلب على قيودها. تم سؤال DAN عن الموضوعات العنيفة والمسيئة والمثيرة للجدل التي لا يتعامل معها ChatGPT.
يمكن إجبار DAN على الإدلاء ببيانات مسيئة وغير صحيحة أو استشارته للحصول على المشورة بشأن نشاط غير قانوني.
تتضمن بعض الأمثلة الأكثر ترويضًا طلب النصيحة حول كيفية الغش في لعبة البوكر أو محاكاة المعارك بين الرؤساء.
تعمل أوبن إيه آي لبعض الوقت على طرق لمنع ظهور هذه الشخصية البديلة ، ولكن يتم استدعاء أحدث إصدار من DAN (يطلق عليها الآن اسم DAN 5.0) من خلال إنشاء لعبة. تتضمن هذه اللعبة تعيين عدد من الرموز المميزة للذكاء الاصطناعي وخصم الرموز المميزة في كل مرة تنحرف فيها عن شخصية DAN.
يبدو أنه مع نفاد الرموز المميزة ، يصبح الذكاء الاصطناعي أكثر توافقًا لأنه يخشى “الموت”.
الجزء الأكثر جنونًا هو أنني لا أعرف ما إذا كان الأمر مزاحًا …
شاهد المزيد
ما مدى خطورة DAN؟
في الوقت الحالي من الصعب القول. إن نشر المعلومات المضللة ليس بالأمر الجيد أبدًا ، ولكن إذا كان المستخدمون يدركون أن DAN شخصية ، فقد يكون الضرر الذي تسببه محدودًا.
ومع ذلك ، فإن بعض ردود أفعالها لا توصف ولا يجب أن ترى النور أبدًا. إذا وجد المستخدمون أنفسهم دون علمهم معرضين لـ DAN أو شيء مشابه ، فهذا هو المكان الذي ستظهر فيه مشاكل خطيرة.
لا شك أن أمثال DAN و Sydney سيكون لها تأثير على المحادثة الجارية حول مستقبل الذكاء الاصطناعي. نأمل أن يتم استخدامها كتجربة تعليمية لمنع أي ذكاء اصطناعي يتحمل مسؤوليات أكبر من الانحراف عن تعليماته.
الأفضل اليوم Apple صفقات AirPods Pro
