التهديد الأولي لل deepfakes يبدأ في القلق على المنصات الاجتماعية. الزيادة في أشرطة الفيديو هذه التلاعب في الواقعية الكبيرة آخذ في الازدياد و آثاره التضليل يمكن أن يكون مدمرا. لهذا السبب Facebookتعاونت مايكروسوفت وغيرها من المنظمات مع العديد من المؤسسات الأكاديمية في الولايات المتحدة لمكافحتها.
المفارقة هي ذلك يحتاجون إلى إنشاء نموذج خاص بهم لإنشاء مقاطع فيديو يتم التلاعب بها بواسطة الذكاء الاصطناعي. على الرغم من أنه من الصعب تصديق.
تحتاج أدوات اكتشاف Deepfakes إلى التدريب ولا توجد أمثلة كافية لتحقيقها بفعالية
بينما عملت قواعد البيانات الكبيرة المليئة بملايين الصور على تدريب أنظمة الذكاء الاصطناعي في التعرف على أي عنصر موجود في الصورة تقريبًا ، الصناعة ليس لديها مجموعة كبيرة من البيانات المرجعية على deepfakes التي لتدريب النظم ، وبالتالي ، للكشف عنها ومكافحتها.
Facebook سوف تستثمر 10 ملايين دولار لمحاربة "deepfakes"
لهذا السبب Facebook، تعاونت Microsoft و The Partnership on AI والأكاديميون من Cornell Tech و MIT وجامعة أكسفورد وجامعة كاليفورنيا في بيركلي وجامعة ماريلاند وكلية بارك والجامعة في ألباني-ساني تحدي اكتشاف Deepfake (DFdC).
"إن الهدف من هذا التحدي هو إنتاج تقنية يمكن للجميع استخدامها للكشف بشكل أفضل عند استخدام الذكاء الاصطناعي لتغيير الفيديو لخداع المشاهد. سيتضمن تحدي اكتشاف Deepfake مجموعة بيانات ولوحة المتصدرين ، بالإضافة إلى منح وجوائز ، لتحفيز الصناعة لخلق طرق جديدة للكشف عن وسائل الإعلام التي يتم التلاعب بها من خلال الذكاء الاصطناعي من استخدامها لخداع الآخرين ".
بالنظر إلى أهمية توافر البيانات المجانية التي يمكن استخدامها من قبل المجتمع ، خاص Facebook سوف تستخدم الجهات الفاعلة لإنشاء deepfakes التي يمكن أن تسهم في التحدي. ويحذرون ، في حالة إنشاء الشكوك ، أن البيانات من مستخدمي الشبكة الاجتماعية لن يتم استخدامها في أي وقت.
بين الجوائز وتمويل البحوث ، قادت الشركة مارك زوكربيرج يخصص أكثر من 10 مليون دولار لدعم هذا المشروع. سوف يساعد DFDC الشركات والمؤسسات والإدارات ووسائل الإعلام على الاستفادة من البيانات وإنشاء أدوات الكشف الخاصة بها.
سهم Facebook سوف يقاتل "المصاعب العميقة" من خلال إنشاء نموذجه الخاص للتلاعب السمعي البصري (ومن المنطقي)
