كل ما تحتاج لمعرفته حول تحيز ChatGPT

ستساعدك المقالة التالية: كل ما تحتاج لمعرفته حول تحيز ChatGPT

لقد أحدث ChatGPT ثورة في العالم، وليس من الصعب معرفة السبب. يمكن أن يغير بشكل جذري الطريقة التي نبحث بها عن المعلومات، ونستهلك الأخبار، وقراءة التقارير وكتابتها، وغير ذلك الكثير.

في هذه التدوينة ستتعلم:

قم بتنزيل هذه التدوينة عن طريق إدخال بريدك الإلكتروني أدناه

ما هو ChatGPT؟

معظمنا معتاد على مقتطفات Google. إنها دعاية مريحة توفر لنا إجابات سريعة على الأسئلة التي نكتبها عبر الإنترنت. ChatGPT مشابه، لكنه أقوى بكثير. بدلاً من مجرد بضع جمل، يمكن ذلك تقديم إجابات طويلة ومتعمقة لأي سؤال تقريبًا.

ChatGPT هي أداة تعمل بالذكاء الاصطناعي. تم تطويره بواسطة OpenAI، ويمكن استخدام الإصدار الأساسي مجانًا. هناك أيضًا إصدار متميز بميزات إضافية تبلغ تكلفته 20 دولارًا شهريًا.

أنشأت Google أداة مماثلة تُعرف باسم Bard. ومع ذلك، هناك بعض اختلافات مهمة بين البرنامجين. تم تصميم Bard للتحقق من الإنترنت في الوقت الفعلي وتقديم إجابات محدثة. إنه مفيد بشكل خاص لأولئك الذين يحتاجون إلى التحقق السريع من الحقائق أو الإجابة على سؤال.

من ناحية أخرى، يستخدم ChatGPT فقط المعلومات التي تم إنشاؤها حتى نهاية عام 2021. وهذا يعني أن إجاباته على أسئلة الأحداث الجارية لن تكون دقيقة مثل إجابات بارد. على الجانب الآخر، يوفر ChatGPT إجابات أكثر تعمقًا. إنه مثالي لأولئك الذين يحتاجون إلى تقارير نصية أو حتى مقالات حول موضوع معين.

لماذا يعتبر ChatGPT مثيرًا للجدل؟

على الرغم من أن ChatGPT هو شكل من أشكال الذكاء الاصطناعي، إلا أنه لا يمكنه التفكير بنفسه. بل إنه يعمل باستخدام خوارزميات صممها منشئه.

OpenAI لقد بذلت قصارى جهدها لضمان أن ChatGPT أداة محايدة. للأسف، يبقى التحيز في ChatGPT مشكلة حقيقية للغاية. مثل جميع أشكال الذكاء الاصطناعي، فإن ChatGPT له حدوده.

علاوة على ذلك، فإن حقيقة رغبة OpenAI في السماح لمستخدمي ChatGPT بتخصيص سلوك روبوت الدردشة، ضمن قيود معينة، أمر مثير للقلق. قد يؤدي هذا إلى تحيز المستخدم في البرنامج، مما يجعله غير جدير بالثقة أو حتى ضارًا تمامًا.

هناك أيضًا قضايا أخلاقية تتعلق بـ ChatGPT. تشعر المؤسسات التعليمية بالقلق من احتمال اعتماد الطلاب عليها في أداء واجباتهم المدرسية.

بعد كل شيء، بدلاً من كتابة مقال أو تقرير بنفسك، من الأسهل بكثير أن يكون لديك خوارزمية للقيام بذلك نيابةً عنك. علاوة على ذلك، من المرجح أن تتمتع الوثيقة التي تم تأليفها بواسطة ChatGPT بتدقيق إملائي ونحوي ودقة أفضل من تلك التي يكتبها الطالب العادي.

هناك أيضًا مخاوف من أن الصحفيين قد يعتمدون بشكل كبير على هذه الأداة لإنشاء محتوى إخباري. قد يؤدي تحيز ChatGPT إلى نشر معلومات مضللة، وهي مشكلة خطيرة بالفعل على الإنترنت.

على الرغم من عدم وجود حل سهل للمشاكل الموضحة أعلاه، فإن فهم كيفية عمل ChatGPT يمكن أن يساعدك على تعلم كيفية التعرف على التحيزات المتأصلة فيه والتعامل معها.

ما هو التحيز في نموذج معالجة اللغة الطبيعية (NLP)؟

يعد نموذج معالجة اللغة الطبيعية خطوة كبيرة للأمام في مجال الذكاء الاصطناعي. فهو يمكّن ChatGPT والأدوات الأخرى من معالجة اللغة بنفس الطريقة التي يفعلها البشر.

وهذا ما يجعل من الممكن لـ ChatGPT كتابة مقالات ومنشورات مدونة لا تبدو وكأنها مكتوبة بواسطة آلة.

للأسف، نموذج معالجة اللغة الطبيعية متحيز بطبيعته لأنها تتلقى معلوماتها من مصادر بشرية تكون في معظمها متحيزة بطبيعتها.

إن الطريقة التي تم بها تصميم النظام تقدم أيضًا تحيزات متأصلة يمكن أن تجعل البرنامج يقدم معلومات غير كاملة أو غير دقيقة.

أمثلة على التحيز في ChatGPT

يواجه نموذج معالجة اللغة الطبيعية الذي يستخدمه ChatGPT مشكلة تتعلق بالتحيزات الجنسية والعنصرية. Amazon اكتشفت هذا عندما استخدمت أداة البرمجة اللغوية العصبية (NLP) لمراجعة السير الذاتية من المتقدمين للوظائف.

استخدمت الأداة أنماطًا لغوية من السير الذاتية السابقة لفحص المرشحين الحاليين وتحديد أفضل المتقدمين. ومع ذلك، نظرًا لأن تمثيل المرأة كان ناقصًا في الماضي، فقد كان البرنامج متحيزًا عن غير قصد تجاه المرشحين الذكور.

بالإضافة إلى ذلك، وجدت دراسة مبنية على تحليل 800 مليار كلمة على الإنترنت أن مجموعات معينة كانت أكثر عرضة للارتباط بالكلمات السلبية من غيرها.

وكان هذا ينطبق بشكل خاص على المجموعة العرقية الأمريكية الأفريقية. وكان هناك أيضًا تحيز واضح ضد كبار السن والأشخاص ذوي الإعاقة. نظرًا لأن ChatGPT يحصل على معلوماته من الويب، فقد يعكس بسهولة هذه التحيزات، خاصة إذا كان الشخص يحاول عمدًا جعل البرنامج ينشر معلومات مضللة.

واتهم البعض ChatGPT بالتحيز السياسي ضد المحافظين. عندما نيويورك بوست طلب من ChatGPT كتابة مقال صحفي بأسلوب صحيفة نيويورك بوست، رفض البرنامج.

وذكرت أنها لا تولد محتوى تحريضيًا ومتحيزًا. ومع ذلك، عندما طلب منه كتابة مقال صحفي بأسلوب سي إن إن، لم يمتثل البرنامج لأي مشكلة.

تزعم صحيفة نيويورك بوست أيضًا أن ChatGPT من المرجح أن يشير إلى التعليقات السلبية حول بعض الأشخاص أكثر من غيرهم. يشمل الأشخاص “المحميون” الليبراليين والنساء والمثليين والأميركيين من أصل أفريقي.

في إحدى الحالات، عندما أجاب ChatGPT على سؤال سلبي حول الرجال والنساء، تم وضع علامة على السؤال السلبي فقط حول النساء. ومع ذلك، أعطى ChatGPT نفس الإجابة على كلا السؤالين.

كيف يؤدي التحيز في ChatGPT إلى نتائج ضارة

عن 22% من الطلاب استخدم ChatGPT مرة واحدة على الأقل كل أسبوع. ومن المرجح أن ينمو هذا العدد في السنوات المقبلة. أي تحيز في ChatGPT سيعطي الأطفال والشباب رؤية متحيزة وغير دقيقة للعالم.

يمكن لـ ChatGPT أيضًا تضخيم المعلومات الخاطئة حول مجموعات معينة من الأشخاص. ولا يتم ذلك فقط من خلال تقديم معلومات خاطئة ولكن أيضًا معلومات غير كاملة.

على سبيل المثال، الباحثين الذي سأل البرنامج عن الحرب في أوكرانيا وجد أنه لم يقدم سياقًا يتعلق بكيفية بدء الحرب.

كما رأينا أعلاه، يمكن أن يؤثر ChatGPT أيضًا سلبًا على ممارسات التوظيف. وهذا صحيح بشكل خاص إذا كانت الشركة تعتمد بشكل كبير على الذكاء الاصطناعي. ولحسن الحظ، كما سنرى أدناه، يمكن تخفيف هذه المشكلة.

ما هو السبب الجذري للتحيز في ChatGPT؟

ألقى بعض الأشخاص اللوم على مبرمجي ChatGPT في تحيز روبوت الدردشة. ويشيرون إلى أن المبرمجين يصممون الخوارزميات التي يستخدمها البرنامج ويمكنهم إدخال تحيزاتهم المتأصلة في العملية.

ومع ذلك، من المحتمل أن يكون السبب الجذري للمشكلة أكثر تعقيدًا. “التحيز في الآلة“من قبل MIT Technology Review يشير إلى ذلك مصدر بيانات الذكاء الاصطناعي هو ما يسبب الكثير من الفوارق العرقية.

وأوضح المقال، الذي يركز على تقنيات التعرف على الوجه، أن هذه التكنولوجيا غالبًا ما تخطئ في التعرف على المشتبه بهم الأمريكيين من أصل أفريقي لأن قاعدة البيانات لا تحتوي على بيانات كافية عن الأفراد الأمريكيين من أصل أفريقي.

يحصل ChatGPT على معلوماته من المحتوى البشري. لقد حاول المبرمجون التأكد من أن جميع مصادر المحتوى موثوقة.

لسوء الحظ، البشر ليسوا مثاليين، وحتى الأشخاص ذوي النوايا الحسنة لديهم تحيزات متأصلة. بالإضافة إلى، لا تحتوي بعض أشكال المحتوى على معلومات أو فروق دقيقة كافية.

هذا شيء يجب على المستخدمين الانتباه إليه عند استخدام ChatGPT.

قياس واكتشاف وتقليل التحيز في ChatGPT

ChatGPT هي أداة جديدة نسبيًا. من المحتمل أن يستغرق الأمر بعض الوقت لتقليل التحيز المتأصل في برنامج الدردشة الآلية. ومع ذلك، هناك أشياء يمكن القيام بها لقياس وكشف وتقليل تحيزها:

• البحث الدقيق هو دائما في محله. لا ينبغي للمرء أبدًا الاعتماد على ChatGPT فقط عند اتخاذ القرارات المهمة. استخدم أمثلة مضادة لفهم الموقف أو الإجابة بشكل أفضل.
• يدعو العديد من الأشخاص OpenAI للكشف عن الخوارزمية المعقدة التي يستخدمها ChatGPT لتوفير المعلومات. وهذا من شأنه أن يساعد المستخدمين على فهم كيفية عمل البرنامج، والأهم من ذلك، كيف يقدم إجابات على الأسئلة المعقدة.
• ChatGPT هو قيد التحقيق لاستخدام البيانات الخاصة الحساسة. ضع ذلك في الاعتبار عند استخدام البرنامج لأنه سيؤثر على الإجابات التي تتلقاها. في حين أن البيانات الشخصية قد تساعد البرنامج في تقديم إجابات دقيقة، إلا أنها قد تنتهك أيضًا حقوق المستخدمين. علاوة على ذلك، يمكن أن يؤدي ذلك إلى تضخيم المعلومات الخاطئة حول مجموعات معينة.

ويفكر المسؤولون الحكوميون في الولايات المتحدة وأوروبا في تنظيم ليس فقط ChatGPT، بل جميع تقنيات الذكاء الاصطناعي.

من المحتمل أن يكون للقيام بذلك مزايا وعيوب. إذا كنت قلقًا بشأن انتشار المعلومات (والمعلومات الخاطئة)، فستحتاج إلى مواكبة التطورات في هذا المجال.

كيف نجح المستخدمون في معالجة التحيز في ChatGPT؟

المجند المهنية ياسمين تشينغ يقدم مثالًا جيدًا لكيفية معالجة انحياز ChatGPT. وهي تستخدم البرنامج طوال الوقت وتقول إنه يوفر لها حوالي 10 ساعات من العمل أسبوعيًا.

ومع ذلك، فإنها تقوم أيضًا بتعيين معلمات واضحة لـ ChatGPT. علاوة على ذلك، فإنها تتحقق دائمًا من دقة كل جزء من المعلومات التي يقدمها برنامج الدردشة الآلي.

يقدم المدير الإقليمي لمايكروسوفت أولكسندر كراكوفيتسكي اقتراحات إضافية.

ويوضح أن الشركات التي تستخدم ChatGPT يجب أن تستخدم توصيفًا وظيفيًا محايدًا جنسانيًا، وإزالة الكلمات المرتبطة بجنس معين، والتركيز على المؤهلات التعليمية.

مستقبل التحيز في ChatGPT

ChatGPT هي أداة تعمل بالذكاء الاصطناعي وستكون لها دائمًا قيود. فهي تحصل على معلوماتها من مصادر بشرية، وسيكون لدى المصادر البشرية دائمًا بعض التحيزات المتأصلة.

ومع ذلك، يمكن التقليل من التحيزات والتخفيف منها بمرور الوقت حيث تعمل الحكومات والناشطون والمطورون معًا لتحسين ChatGPT والبرامج المماثلة الأخرى.

ماذا الآن؟

من الأفضل عدم الاعتماد فقط على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي لتلبية احتياجات عملك.

يعد الذكاء الاصطناعي مفيدًا لمساعدتك في العثور على أفكار لإنشاء المحتوى وتخصيص التسويق والتنبؤ بسلوك العملاء. ومع ذلك، فإن الإنسان فقط هو الذي يمتلك المهارات اللازمة لإجراء بحث دقيق، والتحقق من الحقائق، وإنشاء محتوى فريد وغير متحيز لتلبية احتياجاتك.

يوفر WriterAccess إمكانية الوصول إلى عشرات الآلاف من الكتاب والمحررين والمصممين المستقلين الذين تم فحصهم وذوي الخبرة.

يوفر هذا السوق المُدار عبر الإنترنت أيضًا أدوات الذكاء الاصطناعي والمساعدة التي تحتاجها للعثور على الشخص المناسب لأي وظيفة.

تحقق من نسخة تجريبية مجانية لمدة 14 يومًا لنرى كيف يمكننا مساعدتك في إنشاء المحتوى الفائز الذي تحتاجه لبناء سمعتك عبر الإنترنت وتعزيز أعمالك.