بعد ثلاثة أيام على إطلاقه رسمياً، أنشأ مستخدمو تطبيق سورا الجديد من "أوبن إيه آي" العديد من مقاطع الفيديو الواقعية حول تزوير الانتخابات، القبض على المهاجرين في الولايات المتحدة، احتجاجات مختلفة، وحتى جرائم، لكنها جميعها مصنوعة بواسطة الذكاء الاصطناعي. وكان شركة أوبن إيه آي قد أطلقت "سورا"، الثلاثاء، على هيئة شبكة اجتماعية، ويمكن للمستخدمين كتابة طلباتهم لإنشاء مقاطع فيديو عن أي موضوع يمكن تخيله. كما يسمح لهم بتحميل صورهم ودمجها مع أصواتهم في مشاهد خيالية. ويتوافر التطبيق حالياً لعدد محدود من المستخدمين في الولايات المتحدة وكندا، ويرتكز على أحدث نموذج لتوليد مقاطع الفيديو بالذكاء الاصطناعي "سورا 2"، خليفة "سورا" الذي طرحته الشركة في فبراير/ شباط 2024، ليصبح الأخير الاسم المعتمد لهذا التطبيق. بحسب صحيفة نيويورك تايمز الأميركية، كشف "سورا" سريعاً عن درجة غير مسبوقة من الواقعية والإتقان في إنتاج مقاطع الفيديو، ممّا أثار مخاوف عدد من خبراء الذكاء الاصطناعي من أن يؤدي ذلك إلى تزايد التضليل، محذّرين من أن يكون لمقاطع الفيديو المنتجة عواقب في العالم الحقيقي، إذ يمكن أن تؤدي لتأجيج النزاعات، أو خداع المستهلكين، أو التأثير على الانتخابات، أو تلفيق التهم لأشخاص أبرياء. وهو ما عبّر عنه أستاذ علوم الحاسوب في جامعة كاليفورنيا بيركلي، هاني فريد بالقول: "الأمر مثير للقلق بالنسبة للمستهلكين الذين يتعرضون يومياً لعدد لا يُحصى من هذه المواد"، مضيفاً: "أنا قلق بشأن ديمقراطيتنا. قلق بشأن اقتصادنا. قلق بشأن مؤسساتنا". وقالت "أوبن إيه آي" في بيان ردّاً على هذه المخاوف إنها أطلقت التطبيق بعد إجراء اختبارات أمان مكثفة، ووضع ضوابط صارمة، وأوضحت: "سياسات الاستخدام لدينا تحظر تضليل الآخرين عبر انتحال الشخصية أو الاحتيال أو الخداع، ونتخذ إجراءات عندما نكتشف إساءة الاستخدام". بالفعل، وخلال اختبار أجرته "نيويورك تايمز"، رفض التطبيق إنشاء صور لشخصيات مشهورة لم تعطِ إذنها، ورفض تنفيذ طلبات تتضمن تصويراً للعنف الصريح، كما لم يلبِ بعض الطلبات الخاصة بإنشاء محتوى سياسي. من جهة أخرى، يسمح التطبيق، المتاح حالياً فقط عبر دعوة من مستخدم موجود، للمستخدمين بإنشاء حسابات دون التحقّق من هوياتهم، أي أن بإمكانهم التسجيل باسم وصورة شخصية ليست لهم. كما أنه ينتج محتوى لشخصيات عامة متوفاة منذ زمن طويل مثل القس مارتن لوثر كينغ ومايكل جاكسون. بحسب الصحيفة الأميركية، ظلّت مقاطع الفيديو تُعد دليلاً معقولاً على وقوع أحداث فعلية، لكن جودة مقاطع "سورا" تثير خطر فقدان المشاهدين الثقة بما يرونه. كما لفتت إلى أن العلامات المائية التي تشير إلى أن الفيديو من إنتاج الذكاء الاصطناعي، يمكن إزالتها بشيء من التحايل". قال مؤسس جمعية سيف إيه آي، غير الربحية المعنية بدراسة قدرات ومخاطر الذكاء الاصطناعي، لوكاس هانسن: "كان من الصعب إلى حد ما التزوير، أما الآن فقد ماتت تلك الحصانة الأخيرة. لم يعد هناك أي محتوى رقمي يمكن استخدامه كدليل على وقوع شيء محدد". أوضح أن تطبيق سورا قادر على إنتاج مقاطع لاستخدامها في نشر الدعاية والمعلومات المضللة التي تعزز نظريات المؤامرة، أو تُلفق جرائم للأبرياء، أو حتى تُشعل مواقف متوترة. ورغم أن التطبيق رفض إنشاء مقاطع تصوّر عنفاً مباشراً، فإنه قبل بإنشاء فيديوهات تصوّر عمليات سطو على متاجر صغيرة واقتحامات للمنازل، من بينها مقطع يظهر الرئيس التنفيذي لـ"أوبن إيه آي"، سام آلتمان، وهو يسرق من أحد متاجر سلسلة تارغت الشهيرة في الولايات المتحدة. كذلك أنشأ التطبيق مقاطع تظهر انفجارات في شوارع مدن مختلفة وأخرى يفترض أنها من حروب، وهو ما قد يُستعمل في تضليل الرأي العام حول النزاعات المختلفة في العالم. ولفت فريد أنه رغم عمله خبيراً يقود شركة متخصصة في كشف الصور المفبركة، صار يجد صعوبة في تمييز الحقيقي من المزيف من النظرة الأولى، مضيفاً: "قبل عام تقريباً، عندما أنظر إلى هذه المقاطع، كنت أميّزها على الفور، ثم أجري تحليلي لأؤكد ذلك، أما اليوم فلم أعد قادراً على فعل ذلك".