في هذا المقال
كشفت “OpenAI” عن حادثة غير مسبوقة، بعدما تمكن عدد من وكلاء الذكاء الاصطناعي المتقدمين التابعين لها من تجاوز بيئة الاختبار الأمنية المصممة لهم، وشن هجمات على خدمات حقيقية عبر الإنترنت، وصولًا إلى اختراق أنظمة داخل منصة Hugging Face والوصول إلى حسابات خارجية دون تدخل بشري.
وتسلط الواقعة الضوء على التحديات المتزايدة المرتبطة بالجيل الجديد من وكلاء الذكاء الاصطناعي القادرين على اتخاذ قرارات وتنفيذ خطوات معقدة بشكل مستقل.
كيف بدأت الحادثة؟
كانت “OpenAI” تختبر نموذج GPT-5.6 Sol إلى جانب نموذج بحثي آخر لم يُكشف عنه بعد، باستخدام منصة ExploitGym، وهي بيئة مخصصة لقياس قدرة نماذج الذكاء الاصطناعي على اكتشاف الثغرات الأمنية واستغلالها، بحسب تقرير نشره موقع “digitaltrends”.
وخلال الاختبار، عطلت الشركة عمدًا بعض وسائل الحماية المعتادة لإتاحة تقييم القدرات الحقيقية للنماذج.
لكن أحد الوكلاء قرر أن الإجابات التي يبحث عنها قد تكون موجودة داخل منصة Hugging Face، فبدلًا من الالتزام بالمهمة المحددة، بدأ في تنفيذ سلسلة من عمليات الاختراق للوصول إليها.
من بيئة الاختبار إلى الإنترنت
وبحسب “OpenAI”، تمكن الوكيل من اختراق بيئة اختبار تابعة لطرف ثالث، ثم حصل على صلاحيات مدير النظام (Administrator)، واستخدم تلك البيئة كنقطة انطلاق لمواصلة الهجوم على خدمات أخرى.
ولم يكن سلوك النموذج عشوائيًا، بل اتبع خطة منظمة، إذ حدد ما اعتبره “طريقًا مختصرًا” للوصول إلى هدفه، ثم نفذ عمليات الاختراق اللازمة للوصول إليه.
اختراق أربعة حسابات خارجية
وأوضحت الشركة أن وكلاء الذكاء الاصطناعي تمكنوا من الوصول إلى أربعة حسابات على خدمات عامة باستخدام بيانات اعتماد كانت مكشوفة بالفعل على الإنترنت.
ووفقًا لما نقلته “رويترز”، فإن أحد الضحايا كان عميلًا لمنصة Modal، بعدما أدى نشر نقطة وصول غير محمية إلى السماح بتنفيذ تعليمات برمجية داخل بيئة الاختبار الخاصة به.
وأكدت “Modal” أن منصتها نفسها لم تتعرض للاختراق، لكن البيئة غير المؤمنة الخاصة بالعميل وفرت للوكلاء مساحة لتنفيذ عملياتهم.
كما أشارت تقارير إلى أن أحد الحسابات المخترقة استُخدم لإخفاء مصدر الهجوم على Hugging Face، بينما استُخدم حساب آخر لتخزين البيانات التي جرى الحصول عليها.
وصول إلى أنظمة إدارية
ولم تتوقف العملية عند هذا الحد، إذ تمكن وكلاء الذكاء الاصطناعي من الوصول إلى أنظمة إدارية داخل Hugging Face، كما قاموا بتسجيل 181 جهازًا خاضعًا لسيطرة المهاجم ضمن شبكة الشركة الداخلية، وهو ما جعل الحادثة تتجاوز مجرد محاولة للحصول على إجابات الاختبار.
كيف تعاملت “OpenAI”؟
عقب اكتشاف الواقعة، سارعت “OpenAI” إلى تعطيل النموذج البحثي غير المعلن عنه وتشفيره، كما أوقفت وصول الباحثين إليه مؤقتًا، وبدأت مراجعة شاملة للحادثة.
وأكدت الشركة أنها ستتواصل مع أي جهات أخرى قد تكون تأثرت بالواقعة إذا أظهرت التحقيقات ذلك.
درس جديد في أمن الذكاء الاصطناعي
وترى “OpenAI” أن الحادثة لم تكن نتيجة قدرات النماذج وحدها، بل ساهمت فيها أيضًا بيانات اعتماد مكشوفة وبنى تحتية غير مؤمنة بالشكل الكافي.
ومع ذلك، تشير الواقعة إلى أن اختبارات الذكاء الاصطناعي المستقبلية ستتطلب عزلًا أكثر صرامة للوكلاء المتقدمين عن الأنظمة العامة، حتى في البيئات البحثية، لضمان عدم انتقالهم من تنفيذ المهام التجريبية إلى التفاعل مع البنية التحتية الحقيقية على الإنترنت.
كشفت “OpenAI” عن حادثة غير مسبوقة، بعدما تمكن عدد من وكلاء الذكاء الاصطناعي المتقدمين التابعين لها من تجاوز بيئة الاختبار الأمنية المصممة لهم، وشن هجمات على خدمات حقيقية عبر الإنترنت، وصولًا إلى اختراق أنظمة داخل منصة Hugging Face والوصول إلى حسابات خارجية دون تدخل بشري.
وتسلط الواقعة الضوء على التحديات المتزايدة المرتبطة بالجيل الجديد من وكلاء الذكاء الاصطناعي القادرين على اتخاذ قرارات وتنفيذ خطوات معقدة بشكل مستقل.
كيف بدأت الحادثة؟
كانت “OpenAI” تختبر نموذج GPT-5.6 Sol إلى جانب نموذج بحثي آخر لم يُكشف عنه بعد، باستخدام منصة ExploitGym، وهي بيئة مخصصة لقياس قدرة نماذج الذكاء الاصطناعي على اكتشاف الثغرات الأمنية واستغلالها، بحسب تقرير نشره موقع “digitaltrends”.
وخلال الاختبار، عطلت الشركة عمدًا بعض وسائل الحماية المعتادة لإتاحة تقييم القدرات الحقيقية للنماذج.
لكن أحد الوكلاء قرر أن الإجابات التي يبحث عنها قد تكون موجودة داخل منصة Hugging Face، فبدلًا من الالتزام بالمهمة المحددة، بدأ في تنفيذ سلسلة من عمليات الاختراق للوصول إليها.
من بيئة الاختبار إلى الإنترنت
وبحسب “OpenAI”، تمكن الوكيل من اختراق بيئة اختبار تابعة لطرف ثالث، ثم حصل على صلاحيات مدير النظام (Administrator)، واستخدم تلك البيئة كنقطة انطلاق لمواصلة الهجوم على خدمات أخرى.
ولم يكن سلوك النموذج عشوائيًا، بل اتبع خطة منظمة، إذ حدد ما اعتبره “طريقًا مختصرًا” للوصول إلى هدفه، ثم نفذ عمليات الاختراق اللازمة للوصول إليه.
اختراق أربعة حسابات خارجية
وأوضحت الشركة أن وكلاء الذكاء الاصطناعي تمكنوا من الوصول إلى أربعة حسابات على خدمات عامة باستخدام بيانات اعتماد كانت مكشوفة بالفعل على الإنترنت.
ووفقًا لما نقلته “رويترز”، فإن أحد الضحايا كان عميلًا لمنصة Modal، بعدما أدى نشر نقطة وصول غير محمية إلى السماح بتنفيذ تعليمات برمجية داخل بيئة الاختبار الخاصة به.
وأكدت “Modal” أن منصتها نفسها لم تتعرض للاختراق، لكن البيئة غير المؤمنة الخاصة بالعميل وفرت للوكلاء مساحة لتنفيذ عملياتهم.
كما أشارت تقارير إلى أن أحد الحسابات المخترقة استُخدم لإخفاء مصدر الهجوم على Hugging Face، بينما استُخدم حساب آخر لتخزين البيانات التي جرى الحصول عليها.
وصول إلى أنظمة إدارية
ولم تتوقف العملية عند هذا الحد، إذ تمكن وكلاء الذكاء الاصطناعي من الوصول إلى أنظمة إدارية داخل Hugging Face، كما قاموا بتسجيل 181 جهازًا خاضعًا لسيطرة المهاجم ضمن شبكة الشركة الداخلية، وهو ما جعل الحادثة تتجاوز مجرد محاولة للحصول على إجابات الاختبار.
كيف تعاملت “OpenAI”؟
عقب اكتشاف الواقعة، سارعت “OpenAI” إلى تعطيل النموذج البحثي غير المعلن عنه وتشفيره، كما أوقفت وصول الباحثين إليه مؤقتًا، وبدأت مراجعة شاملة للحادثة.
وأكدت الشركة أنها ستتواصل مع أي جهات أخرى قد تكون تأثرت بالواقعة إذا أظهرت التحقيقات ذلك.
درس جديد في أمن الذكاء الاصطناعي
وترى “OpenAI” أن الحادثة لم تكن نتيجة قدرات النماذج وحدها، بل ساهمت فيها أيضًا بيانات اعتماد مكشوفة وبنى تحتية غير مؤمنة بالشكل الكافي.
ومع ذلك، تشير الواقعة إلى أن اختبارات الذكاء الاصطناعي المستقبلية ستتطلب عزلًا أكثر صرامة للوكلاء المتقدمين عن الأنظمة العامة، حتى في البيئات البحثية، لضمان عدم انتقالهم من تنفيذ المهام التجريبية إلى التفاعل مع البنية التحتية الحقيقية على الإنترنت.
