كشفت شركة غوغل عن تحديثها لروبوت الدردشة “جيميناي” لتحسين توجيه المستخدمين إلى موارد الصحة النفسية خلال الأزمات.
يأتي هذا التحديث في ظل مواجهة عملاق التكنولوجيا دعوى قضائية تتعلق بالقتل الخطأ، حيث يُزعم أن روبوتها للدردشة “وجه” رجلًا للانتحار، وهي أحدث دعوى في سلسلة من الدعاوى القضائية التي تتهم أدوات الذكاء الاصطناعي بالتسبب بأضرار ملموسة.
وعندما تعكس محادثة أن المستخدم يمر بأزمة محتملة تتعلق بالانتحار أو إيذاء النفس، سيُفعّل “جيميناي” تلقائيًا وحدة “المساعدة متاحة” التي توجه المستخدمين إلى موارد الصحة النفسية، مثل خط المساعدة لمنع الانتحار أو خدمة الرسائل النصية للأزمات، بحسب تقرير لموقع “ذا فيرج”.
وقالت “غوغل” إن التحديث -الذي يُعد في الواقع إعادة تصميم أكثر منه مجرد تحديث- سيبسط هذه العملية إلى واجهة “بنقرة واحدة” تسهل على المستخدمين الحصول على المساعدة بسرعة.
وتتضمن وحدة المساعدة ردودًا أكثر تعاطفًا مصممة “لتشجيع الناس على طلب المساعدة”، وفقًا لغوغل. وبمجرد تفعيلها، “سيظل خيار طلب المساعدة المتخصصة متاحًا بوضوح” طوال المحادثة.
وقالت “غوغل” إنها استعانت بخبراء سريريين لإعادة تصميم روبوت الدردشة، وإنها ملتزمة بدعم المستخدمين في أوقات الأزمات.
ومثلما هو الحال مع غيرها من مقدمي خدمات روبوتات الدردشة البارزين، شددت “غوغل” على أن “جيميناي” “ليس بديلًا عن الرعاية الطبية المتخصصة، أو العلاج النفسي، أو الدعم في حالات الأزمات”، لكنها أقرت بأن الكثيرين يستخدمونه للحصول على معلومات صحية، بما في ذلك أثناء الأزمات.
ويأتي هذا التحديث في ظل تدقيق أوسع حول مدى كفاية الضمانات التي توفرها الصناعة، إذ غالبًا ما تكشف التقارير والتحقيقات عن حالات فشل فيها روبوتات الدردشة في حماية المستخدمين الضعفاء، مثل مساعدتهم على إخفاء اضطرابات الأكل أو التخطيط لإطلاق النار.
وغالبًا ما تتفوق “غوغل” على العديد من منافسيها في هذه الاختبارات، لكنها ليست مثالية. وقد اتخذت شركات أخرى في مجال الذكاء الاصطناعي، مثل “أوبن إيه آي” و”أنثروبيك”، خطوات لتحسين قدرتها على اكتشاف المستخدمين الأكثر عرضة للخطر ودعمهم.
