في هذا المقال
في ظل الانتشار المتسارع لمقاطع الفيديو المُولدة بالذكاء الاصطناعي، والتي أصبحت أكثر واقعية من أي وقت مضى، بات اكتشاف المحتوى المزيف تحديًا متزايدًا.
لكن فريقًا من الباحثين في جامعة كاليفورنيا – ريفرسايد طور أداة جديدة لا تكتفي بكشف الفيديو المزيف، بل تستطيع أيضًا تحديد نموذج الذكاء الاصطناعي الذي أنشأه.
وتحمل الأداة اسم SAGA، وهي اختصار لعبارة Source Attribution of Generative AI Videos، وقد طُورت بقيادة الباحث الدكتور روهيت كوندو، بالتعاون مع أستاذ الهندسة الكهربائية وهندسة الحاسوب أميت كيه. روي تشودري، وبمشاركة باحثين من “يوتيوب” و”غوغل ديب مايند”.
كيف تعمل أداة SAGA؟
تعتمد SAGA على تحليل أنماط بصرية دقيقة تتركها نماذج توليد الفيديو بالذكاء الاصطناعي دون قصد أثناء إنشاء المقاطع.
ويشبه الباحثون هذه الأنماط بـ”البصمة الرقمية”، إذ يمتلك كل نموذج ذكاء اصطناعي خصائص فريدة تظهر في طريقة إنتاج الصور والحركة داخل الفيديو، ما يسمح بتمييزه عن غيره.
وعلى عكس الصور الثابتة، تتضمن مقاطع الفيديو معلومات تتعلق بالحركة وتسلسل الإطارات، وهو ما يجعل لكل نموذج أسلوبًا خاصًا في انتقال العناصر البصرية من إطار إلى آخر.
ولهذا السبب، لا تكتفي الأداة بتحليل كل إطار على حدة، بل تدرس أيضًا تطور المشاهد عبر كامل المقطع باستخدام تقنية تُعرف باسم Temporal Attention Signatures، والتي تبني ملفًا مميزًا لكل نموذج اعتمادًا على الأنماط المشتركة في عدد كبير من الفيديوهات التي أنشأها.
اختبارات على 19 نموذجًا مختلفًا
اختبر الباحثون الأداة على 19 نموذجًا مختلفًا لتوليد الفيديو بالذكاء الاصطناعي، شملت أنظمة تعتمد على تحويل النص إلى فيديو (Text-to-Video) وأخرى تحول الصور إلى فيديو (Image-to-Video).
وأظهرت النتائج أن SAGA قادرة على:
– التحقق مما إذا كان الفيديو حقيقيًا أم مولدًا بالذكاء الاصطناعي.
– تحديد ما إذا كان الفيديو قد أُنشئ انطلاقًا من نص أو صورة.
– التعرف على النموذج المستخدم في إنتاج الفيديو.
– تحديد الجهة أو فريق التطوير المسؤول عن بناء نموذج الذكاء الاصطناعي.
أداة لمواجهة التضليل
ويرى الباحثون أن مجرد وضع علامة على الفيديو بأنه “مزيف” لم يعد كافيًا مع التطور الكبير في جودة المحتوى الذي تنتجه نماذج الذكاء الاصطناعي.
معرفة مصدر الفيديو قد تساعد المحققين على تتبع حملات التضليل، وتمكن الجهات التنظيمية من تطبيق قواعد الشفافية، كما تمنح شركات التكنولوجيا أدوات أفضل لفهم كيفية انتشار المحتوى المزيف عبر الإنترنت.
سباق مستمر بين التزييف والكشف
ويؤكد فريق البحث أن الكشف عن المحتوى المُولد بالذكاء الاصطناعي سيظل سباقًا مستمرًا بين مطوري أدوات التزييف ومطوري تقنيات الكشف.
ومع ذلك، يعتقد الباحثون أن أدوات مثل SAGA ستجعل من الصعب على الجهات الخبيثة إخفاء مصدر مقاطع الفيديو المزيفة، حتى مع استمرار تطور تقنيات الذكاء الاصطناعي التوليدي وزيادة قدرتها على إنتاج محتوى يصعب تمييزه عن الواقع.
في ظل الانتشار المتسارع لمقاطع الفيديو المُولدة بالذكاء الاصطناعي، والتي أصبحت أكثر واقعية من أي وقت مضى، بات اكتشاف المحتوى المزيف تحديًا متزايدًا.
لكن فريقًا من الباحثين في جامعة كاليفورنيا – ريفرسايد طور أداة جديدة لا تكتفي بكشف الفيديو المزيف، بل تستطيع أيضًا تحديد نموذج الذكاء الاصطناعي الذي أنشأه.
وتحمل الأداة اسم SAGA، وهي اختصار لعبارة Source Attribution of Generative AI Videos، وقد طُورت بقيادة الباحث الدكتور روهيت كوندو، بالتعاون مع أستاذ الهندسة الكهربائية وهندسة الحاسوب أميت كيه. روي تشودري، وبمشاركة باحثين من “يوتيوب” و”غوغل ديب مايند”.
كيف تعمل أداة SAGA؟
تعتمد SAGA على تحليل أنماط بصرية دقيقة تتركها نماذج توليد الفيديو بالذكاء الاصطناعي دون قصد أثناء إنشاء المقاطع.
ويشبه الباحثون هذه الأنماط بـ”البصمة الرقمية”، إذ يمتلك كل نموذج ذكاء اصطناعي خصائص فريدة تظهر في طريقة إنتاج الصور والحركة داخل الفيديو، ما يسمح بتمييزه عن غيره.
وعلى عكس الصور الثابتة، تتضمن مقاطع الفيديو معلومات تتعلق بالحركة وتسلسل الإطارات، وهو ما يجعل لكل نموذج أسلوبًا خاصًا في انتقال العناصر البصرية من إطار إلى آخر.
ولهذا السبب، لا تكتفي الأداة بتحليل كل إطار على حدة، بل تدرس أيضًا تطور المشاهد عبر كامل المقطع باستخدام تقنية تُعرف باسم Temporal Attention Signatures، والتي تبني ملفًا مميزًا لكل نموذج اعتمادًا على الأنماط المشتركة في عدد كبير من الفيديوهات التي أنشأها.
اختبارات على 19 نموذجًا مختلفًا
اختبر الباحثون الأداة على 19 نموذجًا مختلفًا لتوليد الفيديو بالذكاء الاصطناعي، شملت أنظمة تعتمد على تحويل النص إلى فيديو (Text-to-Video) وأخرى تحول الصور إلى فيديو (Image-to-Video).
وأظهرت النتائج أن SAGA قادرة على:
– التحقق مما إذا كان الفيديو حقيقيًا أم مولدًا بالذكاء الاصطناعي.
– تحديد ما إذا كان الفيديو قد أُنشئ انطلاقًا من نص أو صورة.
– التعرف على النموذج المستخدم في إنتاج الفيديو.
– تحديد الجهة أو فريق التطوير المسؤول عن بناء نموذج الذكاء الاصطناعي.
أداة لمواجهة التضليل
ويرى الباحثون أن مجرد وضع علامة على الفيديو بأنه “مزيف” لم يعد كافيًا مع التطور الكبير في جودة المحتوى الذي تنتجه نماذج الذكاء الاصطناعي.
معرفة مصدر الفيديو قد تساعد المحققين على تتبع حملات التضليل، وتمكن الجهات التنظيمية من تطبيق قواعد الشفافية، كما تمنح شركات التكنولوجيا أدوات أفضل لفهم كيفية انتشار المحتوى المزيف عبر الإنترنت.
سباق مستمر بين التزييف والكشف
ويؤكد فريق البحث أن الكشف عن المحتوى المُولد بالذكاء الاصطناعي سيظل سباقًا مستمرًا بين مطوري أدوات التزييف ومطوري تقنيات الكشف.
ومع ذلك، يعتقد الباحثون أن أدوات مثل SAGA ستجعل من الصعب على الجهات الخبيثة إخفاء مصدر مقاطع الفيديو المزيفة، حتى مع استمرار تطور تقنيات الذكاء الاصطناعي التوليدي وزيادة قدرتها على إنتاج محتوى يصعب تمييزه عن الواقع.
