ستساعدك المقالة التالية: يقول المحامي آسف لاستشهادات المحكمة المزيفة التي أنشأتها ChatGPT
كان هناك الكثير من الحديث في الأشهر الأخيرة حول كيف يمكن للموجة الجديدة من روبوتات الدردشة التي تعمل بالذكاء الاصطناعي ، ChatGPT فيما بينها ، أن تقلب العديد من الصناعات ، بما في ذلك مهنة المحاماة.
ومع ذلك ، بناءً على ما حدث مؤخرًا في قضية في مدينة نيويورك ، يبدو أن الأمر قد يستغرق بعض الوقت قبل أن يتم إبعاد المحامين المدربين تدريباً عالياً عن التكنولوجيا.
بدأت الحلقة الغريبة عندما رفع روبرتو ماتا دعوى قضائية ضد شركة طيران كولومبية بعد أن ادعى أنه تعرض لإصابة على متن رحلة متجهة إلى مدينة نيويورك.
طلبت شركة الطيران ، Avianca ، من القاضي رفض القضية ، لذلك قام فريق Mata القانوني بتجميع موجز استشهد فيه نصف دزينة من القضايا المماثلة التي حدثت في محاولة لإقناع القاضي بالسماح بقضية موكلهم ، حسبما ذكرت صحيفة نيويورك تايمز.
كانت المشكلة أن محاميي شركة الطيران والقاضي لم يتمكنوا من العثور على أي دليل على القضايا المذكورة في المذكرة. لماذا؟ لأن ChatGPT جعلهم جميعًا.
اعترف مبتكر المذكرة ، ستيفن أ. شوارتز – وهو محام ذو خبرة عالية في شركة Levidow و Levidow & Oberman – في إفادة خطية بأنه استخدم برنامج الدردشة ChatGPT الخاص بـ OpenAI للبحث عن حالات مماثلة ، لكنه قال إنه “كشف نفسها لا يمكن الاعتماد عليها “.
أخبر شوارتز القاضي أنه لم يستخدم ChatGPT من قبل وبالتالي “لم يكن على دراية باحتمال أن يكون محتواها خاطئًا”.
عند إنشاء الملخص ، طلب شوارتز من ChatGPT تأكيد أن الحالات حدثت بالفعل. رد روبوت المحادثة المفيد دائمًا بالإيجاب ، قائلاً إنه يمكن العثور على المعلومات المتعلقة بهم في “قواعد البيانات القانونية ذات السمعة الطيبة”.
قال المحامي الذي كان وسط العاصفة إنه “يأسف بشدة” لاستخدام ChatGPT لإنشاء الموجز وأصر على أنه “لن يفعل ذلك أبدًا في المستقبل دون التحقق المطلق من صحته”.
بالنظر إلى ما وصفه بأنه تقديم قانوني مليء “بقرارات قضائية مزيفة ، مع اقتباسات مزيفة واستشهادات داخلية مزيفة” ، ووصف الوضع بأنه غير مسبوق ، أمر القاضي كاستل بجلسة استماع في أوائل الشهر المقبل للنظر في عقوبات محتملة.
على الرغم من أنها مثيرة للإعجاب في الطريقة التي تنتج بها نصًا متدفقًا بجودة عالية ، إلا أن ChatGPT وروبوتات الدردشة الأخرى مثلها معروفة أيضًا بتكوينها وتقديمها كما لو كانت حقيقية – وهو شيء تعلمه شوارتز مقابل تكلفته. تُعرف هذه الظاهرة باسم “الهلوسة” ، وهي واحدة من أكبر التحديات التي تواجه المطورين البشريين الذين يقفون وراء روبوتات المحادثة أثناء سعيهم لحل هذه المشكلة الصعبة للغاية.
في مثال حديث آخر على هلوسة أداة الذكاء الاصطناعي التوليدية ، اتهم رئيس بلدية أسترالي ChatGPT بخلق أكاذيب عنه ، بما في ذلك أنه سُجن بتهمة الرشوة أثناء عمله في أحد البنوك منذ أكثر من عقد من الزمان.
كان رئيس البلدية ، براين هود ، في الواقع من المبلغين عن المخالفات في القضية ولم يتم اتهامه قط بارتكاب جريمة ، لذلك كان مستاءًا عندما بدأ الناس بإخباره عن إعادة كتابة التاريخ في برنامج الدردشة الآلي.
