ستساعدك المقالة التالية: يقول يوروبول: “ نظرة قاتمة ” مع سيطرة المجرمين على روبوتات الدردشة الذكية
أصدر يوروبول هذا الأسبوع تحذيراً صارخاً يسلط الضوء على المخاطر التي يشكلها المجرمون عندما يتعاملون مع الموجة الجديدة من روبوتات الدردشة المتقدمة التي تعمل بالذكاء الاصطناعي.
في منشور تم نشره على الإنترنت هذا الأسبوع ، وصفت وكالة إنفاذ القانون الأوروبية كيف سيتم استخدام أدوات مثل ChatGPT و GPT-4 من OpenAI و Google Bard بشكل متزايد من قبل المجرمين الذين يبحثون عن طرق جديدة لخداع أفراد الجمهور.
حددت ثلاثة مجالات محددة تهمها أكثر.
أولاً ، الاحتيال والهندسة الاجتماعية ، حيث يتم إرسال رسائل البريد الإلكتروني إلى الأهداف على أمل حملهم على تنزيل ملف مصاب ببرامج ضارة أو النقر على رابط ينقلهم إلى موقع ويب بنفس الخطورة.
عادة ما تكون رسائل البريد الإلكتروني الخادعة ، كما هي معروفة ، مليئة بالأخطاء النحوية والأخطاء الإملائية وينتهي بها الأمر في مجلد البريد غير الهام. حتى أولئك الذين يصلون إلى البريد الوارد مكتوبون بشكل مخيف لدرجة أن المستلم قادر على التخلص منها بسرعة دون تفكير ثانٍ.
لكن روبوتات الدردشة التي تعمل بالذكاء الاصطناعي يمكنها إنشاء رسائل مكتوبة جيدًا وخالية من الأخطاء غير الدقيقة ، مما يسمح للمجرمين بإرسال رسائل بريد إلكتروني مقنعة تعني أن المستلمين سيضطرون إلى إيلاء المزيد من الاهتمام عند التحقق من رسائلهم.
قال يوروبول إن روبوتات المحادثة المتقدمة يمكنها “إعادة إنتاج أنماط اللغة التي يمكن استخدامها لانتحال أسلوب الكلام لأفراد أو مجموعات معينة” ، مضيفًا أن مثل هذه القدرة يمكن “إساءة استخدامها على نطاق واسع لتضليل الضحايا المحتملين لوضع ثقتهم في أيديهم. الجهات الإجرامية “.
وقال يوروبول إن شكلًا أكثر إقناعًا من المعلومات المضللة ينتشر أيضًا ، حيث تتفوق الموجة الجديدة من روبوتات المحادثة في إنشاء نص يبدو أصيلًا بسرعة وعلى نطاق واسع ، مضيفًا: “هذا يجعل النموذج مثاليًا لأغراض الدعاية والمعلومات المضللة ، لأنه يسمح على المستخدمين إنشاء ونشر الرسائل التي تعكس سردًا معينًا بجهد ضئيل نسبيًا “.
ثالثًا ، استشهد اليوروبول بالتشفير كمجال جديد يتم الاستيلاء عليه من قبل مجرمي الإنترنت لإنشاء برامج ضارة. وأشارت الوكالة إلى أنه “بالإضافة إلى إنشاء لغة شبيهة بالبشر ، فإن ChatGPT قادرة على إنتاج كود بعدد من لغات البرمجة المختلفة”. “بالنسبة لمجرم محتمل لديه القليل من المعرفة التقنية ، يعد هذا موردًا لا يقدر بثمن لإنتاج تعليمات برمجية ضارة.”
وقالت إن الوضع “يوفر نظرة قاتمة” لأولئك الموجودين على الجانب الأيمن من القانون حيث يصبح من الصعب اكتشاف الأنشطة الشائنة عبر الإنترنت.
انطلق جنون روبوت الدردشة المدعوم بالذكاء الاصطناعي في نوفمبر 2022 عندما أصدرت شركة OpenAI المدعومة من Microsoft أداة ChatGPT المثيرة للإعجاب. تم إصدار نسخة محسنة ، GPT-4 ، مؤخرًا ، بينما كشفت Google أيضًا عن أداة مماثلة خاصة بها ، تسمى Bard. يشتهر الثلاثة بقدرتهم الرائعة على إنشاء نص يبدو طبيعيًا مع عدد قليل من المطالبات ، مع احتمال أن تساعد التكنولوجيا أو حتى تحل محل عدد كبير من الوظائف المختلفة في السنوات القادمة.
تتيح لك التقنيات الأخرى المشابهة القائمة على الذكاء الاصطناعي إنشاء صور ومقاطع فيديو وصوت أصلية ببضع مطالبات نصية فقط ، مما يبرز كيف لن يفلت أي شكل من أشكال الوسائط من تأثير الذكاء الاصطناعي مع استمرار تحسن التكنولوجيا.
بعض الأصوات البارزة لديها مخاوف مفهومة بشأن صعودها السريع ، مع خطاب مفتوح وقع عليه مؤخرًا إيلون ماسك ، Apple المؤسس المشارك ستيف وزنياك ، والعديد من الخبراء الذين يزعمون أن أنظمة الذكاء الاصطناعي ذات الذكاء التنافسي البشري يمكن أن تشكل “مخاطر عميقة على المجتمع والإنسانية”. دعت الرسالة إلى توقف لمدة ستة أشهر للسماح بإنشاء وتنفيذ بروتوكولات الأمان للأدوات المتقدمة ، مضيفًا أنه إذا تم التعامل معها بالطريقة الصحيحة ، “يمكن للبشرية الاستمتاع بمستقبل مزدهر باستخدام الذكاء الاصطناعي.”
