حذر عالم روسي متخصص في مجال التكنولوجيا وتقنية الروبوتات الحديثة، من وجود ثغرات في الذكاء الاصطناعي تحدث نتيجة “تسميم” الشبكات العصبية، مما يجعله عرضة للخطر.
وأوضح مدير معهد برمجة الأنظمة التابع لأكاديمية العلوم الروسية أرتيون أفيتيسيان، قائلًا: “إن هذا التهديد يتطلب تطوير قاعدة علمية وتكنولوجية جديدة”.
وأوضح قائلا:” إن طبيعة الذكاء الاصطناعي تتمثل في أن ثغرات في النموذج الذي نستغله، تأتي من خلال البيانات، مما يمكن أن يؤدي إلى “تسميم” البيانات، ما يعني أن هناك مصطلح من هذا القبيل.
وأضاف، يمكن وصول تلك الثغرات عن طريق نماذج تم تدريبها مسبقا، وأخيرا عن طريق تدريب النموذج الأصلي أو تغييره، بحيث يكون عرضة للخطر.
وأوضح أنه يمكن أن تتمثل مثل هذه الثغرة الأمنية، وعلى سبيل المثال، في أن الذكاء الاصطناعي لن يلاحظ جزءً من البيانات التي تخضع للتحليل من قبله.
وبحسب أفيتيسيان، فقد يكون “التسميم” غير مقصود، ويحدث بسبب عدم الكفاءة، ولكن يمكن استغلال هذه الثغرة الأمنية من قبل المهاجمين.
وتابع: “فيما يتعلق بالبيانات والنماذج الجاهزة، فإننا بحاجة إلى تطوير قاعدة علمية وتكنولوجية جديدة، حتى نتمكن من التأكد من موثوقية هذه التكنولوجيات”.
وأعاد العالم الروسي إلى الأذهان، أن روسيا تبنت عام 2021م ميثاق الأخلاقيات في مجال الذكاء الاصطناعي، والتي تهدف أيضًا إلى ضمان سلامة القرارات المستندة إلى الذكاء الاصطناعي.
بينما أكد العالم الروسي أفيتيسيان، استحالة التعرف على المضمون الذي يؤلفه الذكاء الاصطناعي، مما يزيد من الخطر الذي قد يجهله الكثير من المستخدمين.
وقال: إن مثل هذه التكنولوجيات غير موجودة لدينا أو حتى في الخارج، وهذا ما يجعل هذه المهمة صعبة التعقب أو الحد من انتشارها، وبالتالي صعوبة منع الخطر التي ينتج عنها.
وأيد الروسي أفيتيسيان، فكرة وضع علامات خاصة على مضمون يؤلفه الذكاء الاصطناعي، مشيرا إلى أن العالم المعاصر مضطر إلى تطبيق تكنولوجيات الذكاء الاصطناعي في شتى المجالات، ولا يمكن الحد من انتشار تلك العملية.
جاء ذلك على لسان أفيتيسيان، في مؤتمر AI Journey الدولي لقضايا الذكاء الاصطناعي، والذي اختتمت مؤخرًا أعماله في العاصمة الروسية موسكو، بحسب ما أورده موقع “تاس”.
يذكر أن، الذكاء الاصطناعي يمكن أن يكون عرضة للخطر، وذلك بسبب أخطاء متعمدة أو غير متعمدة في البيانات، والتي يتم تدريبه عليها مسبقًا.
