كيف تعزّز "غوغل" قدرة الذّكاء الاصطناعي على رصد مخاطر الانتحار؟

أعلنت "غوغل" عن تحديثات لإجراءات السلامة المتصلة بالصحة النفسية في روبوت الدردشة "جيميناي" العامل بالذكاء الاصطناعي، في وقت تواجه فيه الشركة دعوى قضائية تتهم الروبوت الخاص بها بالمساهمة في انتحار أحد المستخدمين.

وقالت شركة التكنولوجيا العملاقة إن "جيميناي" سيعرض الآن نسخة أعيد تصميمها من ميزة "المساعدة متاحة" ("Help is available") عندما يرصد البرنامج خلال المحادثة ضائقة نفسية لدى المستخدم، وذلك بهدف توفير وصول أسرع إلى خدمات التدخّل في الأزمات.

وبذلك، عندما يكتشف الروبوت علامات على أزمة محتملة تتعلّق بالانتحار أو إيذاء النفس، سيُظهر واجهة مبسّطة تتيح للمستخدمين الاتصال أو إرسال رسالة نصية أو بدء محادثة مع خط ساخن للأزمات بنقرة واحدة، وهي ميزة قالت "غوغل" إنها ستظلّ ظاهرة خلال المحادثة بعد تفعيلها.

كذلك، تعهّدت "غوغل دوت أورغ"، فرع "غوغل" المتخصص في الأنشطة الخيرية، تقديم 30 مليون دولار على مدى ثلاث سنوات للمساعدة في تعزيز خطوط الأزمات الساخنة حول العالم، إضافة إلى أربعة ملايين دولار لدعم شراكة موسّعة مع منصة تدريب الذكاء الاصطناعي "ريفلكس إيه آي".

وكتبت "غوغل" في منشور على مدوّنتها "ندرك أن أدوات الذكاء الاصطناعي قد تَطرح تحديات جديدة. لكن مع تحسينها واعتماد المزيد من الأشخاص عليها في حياتهم اليومية، نعتقد أن الذكاء الاصطناعي المسؤول يمكن أن يلعب دوراً إيجابياً في الصحة النفسية للناس".

وفي المنشور نفسه، قالت "غوغل" إنها درّبت "جيميناي" على تجنّب التصرّف كرفيق يشبه الإنسان، وعلى مقاومة محاكاة الحميمية العاطفية أو تشجيع التنمّر.

وجاءت هذه الإعلانات بعد أشهر من رفع دعوى قضائية أمام محكمة فيدرالية في كاليفورنيا تتّهم "جيميناي" بالمساهمة في وفاة جوناثان غافالاس (36 عاماً) من فلوريدا في تشرين الأول/أكتوبر 2025.

ويقول والد الشاب إن روبوت الدردشة أمضى أسابيع في نسج "وهم خيالي معقّد" قبل أن يصوّر وفاة ابنه على أنها "رحلة روحية".

ومن بين المطالب الواردة في الدعوى، إلزام "غوغل" ببرمجة الذكاء الاصطناعي لإنهاء أي محادثة تتعلّق بإيذاء النفس، وحظر تقديم أنظمة الذكاء الاصطناعي نفسها على أنها كائنات واعية، وفرض إحالة إلزامية إلى خدمات الأزمات عندما يعبّر المستخدمون عن أفكار انتحارية.