“أوبن أيه آي” تطرح نماذج جديدة لتصنيف المحتوى الضار على الإنترنت

أعلنت شركة أوبن أيه آي الأميركية عن إطلاق نموذجين جديدين للذكاء الاصطناعي مخصصين لتصنيف الانتهاكات والمخاطر الرقمية على المنصات الإلكترونية.

النموذجان الجديدان يحملان اسمي gpt-oss-safeguard-120b وgpt-oss-safeguard-20b، وهما نُسختان مطورتان من سلسلة gpt-oss التي كشفت عنها الشركة في أغسطس الماضي.

وتمتاز هذه النماذج بأنها “مفتوحة الوزن”، أي أن بيانات التدريب ومعاييرها الداخلية متاحة للعامة، لكن من دون نشر الشيفرة الكاملة كما في النماذج مفتوحة المصدر، بحسب تقرير نشرته شبكة “سي إن بي سي”.

تمنح هذه الخطوة الشركات والمطورين قدرًا أكبر من الشفافية والسيطرة على كيفية تصنيف المحتوى، خاصة فيما يتعلق بالتحريض، أو الأخبار المضللة، أو السلوك العدواني عبر الإنترنت.

كيف تعمل النماذج الجديدة؟

تقول “أوبن أيه آي” إن المنصات يمكنها تخصيص النماذج وفق سياساتها الداخلية.

فعلى سبيل المثال، يمكن لموقع خاص بمراجعات المنتجات استخدام النموذج لاكتشاف التقييمات المزيفة، أو يمكن لمنتدى ألعاب فيديو تصنيف المنشورات التي تتناول أساليب الغش أو الاختراق.

تعتمد النماذج الجديدة على ما تسميه الشركة “النمذجة القائمة على التفكير”، أي أن الذكاء الاصطناعي يُظهر للمستخدم كيف توصّل إلى نتيجة معينة، ما يزيد من قابلية التتبع والمساءلة.

تعاون بحثي واسع

طُورت هذه النماذج بالشراكة مع منصات وشركات تقنية متخصصة، منها “ديسكورد” و”SafetyKit” ومنظمة “ROOST” التي تُعنى بتطوير أدوات أمان مفتوحة المصدر.

وسيتم توفير النماذج مبدئياً في نسخة بحثية تجريبية عبر منصة Hugging Face، مع دعوة الباحثين وخبراء السلامة لتجربة قدراتها وتقديم الملاحظات.

بين الأمان والتوسع التجاري

يرى محللون أن هذه الخطوة تمثل محاولة من “أوبن أيه آي” لتعزيز صورتها في مجال أخلاقيات الذكاء الاصطناعي، بعد انتقادات طالتها بسبب توسعها التجاري السريع.

وتبلغ قيمة الشركة حالياً نحو 500 مليار دولار، فيما تجاوز عدد مستخدمي تطبيقها الشهير شات جي بي تي حاجز 800 مليون مستخدم أسبوعياً.

قالت كاميل فرانسوا، رئيسة منظمة ROOST: “مع تزايد قوة الذكاء الاصطناعي، يجب أن تتطور أدوات الأمان بنفس السرعة، وأن تكون متاحة للجميع”.

يرى خبراء الأمن الرقمي أن إطلاق هذه النماذج قد يفتح الباب أمام جيل جديد من أدوات المراقبة الذكية التي تحارب التضليل والعنف اللفظي دون المساس بحرية التعبير، وهو توازن تسعى شركات التكنولوجيا الكبرى لتحقيقه منذ سنوات.