في هذا المقال
اكتشف علماء الكمبيوتر طريقة جديدة لاستخراج تفكير الذكاء الاصطناعي المخفي من النماذج الرائدة. ووفقاً لتقرير نشرته منصة Wired، فإن هذه التقنية تكشف عن خطوات اتخاذ القرار الداخلي في أنظمة مثل كلود (Claude) وجي بي تي (GPT) وجيميني (Gemini). وتشير النتائج إلى أن بعض النماذج الصينية ربما تم تدريبها باستخدام بيانات مستخلصة من نماذج أمريكية.
كشف تفكير الذكاء الاصطناعي
قاد البحث علماء كمبيوتر من جامعة توبنغن في ألمانيا، ومعهد ماكس بلانك، ومؤسسة أبحاث سلامة الذكاء الاصطناعي (MATS Research)، وشركة الأمن السيبراني سنيك (Snyk). وحدد الفريق ثغرة أمنية في طريقة نقل البيانات من مقدمي خدمات الذكاء الاصطناعي إلى المستخدمين عبر واجهات برمجة التطبيقات. وتعمل النماذج المتقدمة على تقسيم المشكلات المعقدة إلى خطوات متتالية، وترسل أحياناً بيانات تفكير مشفرة لتخفيف العبء الحسابي.
تعتمد الطريقة على إرسال بيانات مشفرة تكشف تفكير الذكاء الاصطناعي عند تشغيلها على نسخ أصغر من النموذج نفسه. وتمتلك النماذج الأصغر حجماً تدابير حماية أضعف، مما يجعلها أكثر عرضة للكشف عن البيانات المخفية. وأثبت الباحثون أيضاً أن هذه الطريقة قادرة على استعادة معلومات المستخدم الحساسة، بما في ذلك كلمات المرور ومفاتيح واجهة برمجة التطبيقات.
تداعيات استخلاص النماذج الرقمية
قارنت الدراسة مخرجات العديد من النماذج مفتوحة المصدر بالأنظمة الأمريكية المغلقة. ووجد الباحثون أن نموذج كيمي كي 3 (Kimi K3) التابع لشركة مون شوت (Moonshot AI) الصينية أنتج مخرجات مشابهة لنموذج كلود أوبوس 4.8 (Claude Opus 4.8) وجي بي تي 5.6 سول (GPT 5.6 Sol). ومع ذلك، أشار الباحثون إلى أن هذه النتائج لا تثبت بشكل قاطع عملية الاستخلاص.
يُعد الاستخلاص ممارسة شائعة في قطاع التقنية لنقل القدرات من النماذج الكبيرة إلى النماذج الأصغر. ومع ذلك، أثارت هذه الممارسة توترات جيوسياسية بين شركات التقنية الأمريكية والصينية. وقد أعربت شركتا أنثروبيك (Anthropic) وأوبن إيه آي (OpenAI) سابقاً عن مخاوفهما للمشرعين الأمريكيين بشأن قيام شركات صينية باستخلاص بيانات نماذجها.
استجابة الشركات والحلول الأمنية
أبلغ الباحثون شركات أوبن إيه آي وأنثروبيك وجوجل بالثغرة الأمنية قبل نشر نتائجهم. وقامت الشركات الثلاث بتحديث واجهات برمجة التطبيقات الخاصة بها للحد من مخاطر تسريب البيانات الشخصية. وأوضح الباحثون أن حماية تفكير الذكاء الاصطناعي بشكل كامل تتطلب إعادة تصميم واجهات برمجة التطبيقات.
“نحن نقدر الأبحاث المستقلة على نماذجنا، وقد بدأنا في بناء حلول مؤقتة للحد من سلوكيات إعادة التشغيل الموضحة في التقرير.”مايكل أسيمان، المتحدث باسم شركة أنثروبيك
النظرة المستقبلية لأمن البيانات
يتطلب منع استخراج تفكير النماذج بالكامل مراجعة شاملة لطريقة عمل واجهات برمجة التطبيقات. ويرى بعض الخبراء أن تقييد ممارسات الاستخلاص قد يؤدي إلى إبطاء معدل التقدم العالمي في هذا المجال. وفي الوقت نفسه، يواصل خبراء الأمن السيبراني تحليل كيفية تفاعل النماذج المفتوحة مع الأنظمة المغلقة لحماية البيانات الحساسة.
اكتشف علماء الكمبيوتر طريقة جديدة لاستخراج تفكير الذكاء الاصطناعي المخفي من النماذج الرائدة. ووفقاً لتقرير نشرته منصة Wired، فإن هذه التقنية تكشف عن خطوات اتخاذ القرار الداخلي في أنظمة مثل كلود (Claude) وجي بي تي (GPT) وجيميني (Gemini). وتشير النتائج إلى أن بعض النماذج الصينية ربما تم تدريبها باستخدام بيانات مستخلصة من نماذج أمريكية.
كشف تفكير الذكاء الاصطناعي
قاد البحث علماء كمبيوتر من جامعة توبنغن في ألمانيا، ومعهد ماكس بلانك، ومؤسسة أبحاث سلامة الذكاء الاصطناعي (MATS Research)، وشركة الأمن السيبراني سنيك (Snyk). وحدد الفريق ثغرة أمنية في طريقة نقل البيانات من مقدمي خدمات الذكاء الاصطناعي إلى المستخدمين عبر واجهات برمجة التطبيقات. وتعمل النماذج المتقدمة على تقسيم المشكلات المعقدة إلى خطوات متتالية، وترسل أحياناً بيانات تفكير مشفرة لتخفيف العبء الحسابي.
تعتمد الطريقة على إرسال بيانات مشفرة تكشف تفكير الذكاء الاصطناعي عند تشغيلها على نسخ أصغر من النموذج نفسه. وتمتلك النماذج الأصغر حجماً تدابير حماية أضعف، مما يجعلها أكثر عرضة للكشف عن البيانات المخفية. وأثبت الباحثون أيضاً أن هذه الطريقة قادرة على استعادة معلومات المستخدم الحساسة، بما في ذلك كلمات المرور ومفاتيح واجهة برمجة التطبيقات.
تداعيات استخلاص النماذج الرقمية
قارنت الدراسة مخرجات العديد من النماذج مفتوحة المصدر بالأنظمة الأمريكية المغلقة. ووجد الباحثون أن نموذج كيمي كي 3 (Kimi K3) التابع لشركة مون شوت (Moonshot AI) الصينية أنتج مخرجات مشابهة لنموذج كلود أوبوس 4.8 (Claude Opus 4.8) وجي بي تي 5.6 سول (GPT 5.6 Sol). ومع ذلك، أشار الباحثون إلى أن هذه النتائج لا تثبت بشكل قاطع عملية الاستخلاص.
يُعد الاستخلاص ممارسة شائعة في قطاع التقنية لنقل القدرات من النماذج الكبيرة إلى النماذج الأصغر. ومع ذلك، أثارت هذه الممارسة توترات جيوسياسية بين شركات التقنية الأمريكية والصينية. وقد أعربت شركتا أنثروبيك (Anthropic) وأوبن إيه آي (OpenAI) سابقاً عن مخاوفهما للمشرعين الأمريكيين بشأن قيام شركات صينية باستخلاص بيانات نماذجها.
استجابة الشركات والحلول الأمنية
أبلغ الباحثون شركات أوبن إيه آي وأنثروبيك وجوجل بالثغرة الأمنية قبل نشر نتائجهم. وقامت الشركات الثلاث بتحديث واجهات برمجة التطبيقات الخاصة بها للحد من مخاطر تسريب البيانات الشخصية. وأوضح الباحثون أن حماية تفكير الذكاء الاصطناعي بشكل كامل تتطلب إعادة تصميم واجهات برمجة التطبيقات.
“نحن نقدر الأبحاث المستقلة على نماذجنا، وقد بدأنا في بناء حلول مؤقتة للحد من سلوكيات إعادة التشغيل الموضحة في التقرير.”مايكل أسيمان، المتحدث باسم شركة أنثروبيك
النظرة المستقبلية لأمن البيانات
يتطلب منع استخراج تفكير النماذج بالكامل مراجعة شاملة لطريقة عمل واجهات برمجة التطبيقات. ويرى بعض الخبراء أن تقييد ممارسات الاستخلاص قد يؤدي إلى إبطاء معدل التقدم العالمي في هذا المجال. وفي الوقت نفسه، يواصل خبراء الأمن السيبراني تحليل كيفية تفاعل النماذج المفتوحة مع الأنظمة المغلقة لحماية البيانات الحساسة.
