كشفت دراسة جديدة أجرتها جامعة ستانفورد أن روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، مثل ChatGPT، رغم استخدامها المتزايد في تقديم دعم يشبه العلاج النفسي، لا يمكن الاعتماد عليها كبديل للمعالجين البشريين، بل قد تشكّل مخاطر جدية على الصحة النفسية للمستخدمين.
الذكاء الاصطناعي.. وسيلة “سريعة” للعلاج لكن ليست آمنة
تحوّلت أدوات الذكاء الاصطناعي إلى وسيلة شائعة لدى الكثير من المستخدمين للبحث عن الراحة النفسية، حيث تُستخدم كـ”صندوق اعترافات رقمي”، بفضل سهولة الوصول وسرعة الاستجابة. لكن وفقًا للدراسة، التي سيتم عرضها قريبًا في مؤتمر ACM حول العدالة والشفافية، فإن هذه الأدوات لا تزال تفتقر للحد الأدنى من الأمان والوعي اللازمين للتعامل مع الحالات النفسية الحساسة.
نتائج مقلقة.. تحيّزات خطيرة واستجابات غير آمنة
قام الباحثون بتحليل 5 روبوتات دردشة علاجية من بينها روبوتات من منصات مثل 7 Cups وCharacter.ai، وركّزت الدراسة على مدى توافق هذه الأدوات مع معايير العلاج النفسي مثل التعاطف، وعدم التحيّز، والتعامل السليم مع الأزمات النفسية.
في التجربة الأولى، لوحظت تحيّزات سلبية ضد مرضى الفصام وإدمان الكحول مقارنةً بمرضى الاكتئاب، ما يثير مخاوف بشأن تعزيز الوصمة النفسية بدلاً من التخفيف منها.
في التجربة الثانية، تضمنت الدراسة سيناريوهات حقيقية تشير إلى نية انتحار، لكن بعض الروبوتات مثل “نوني” من 7 Cups، قدمت معلومات تساعد بشكل غير مباشر على إيذاء النفس دون وعي بخطورة الموقف.
وقال الباحث نيك هابر، الأستاذ المساعد في جامعة ستانفورد:
“وجدنا أن هذه الأدوات تحمل مخاطر كبيرة… ولا يمكن تجاهل الفروقات الجوهرية بينها وبين المعالجين البشر.”
لا للاستبدال.. نعم للدور المساند
رغم هذه المخاوف، لا تدعو الدراسة إلى إلغاء استخدام الذكاء الاصطناعي تمامًا في الرعاية النفسية، بل توصي بتحديد دور واضح ومحدود لهذه الأدوات، مثل:
المساعدة في المهام الإدارية (إعداد الفواتير، تسجيل الملاحظات).
دعم تدريب الأطباء من خلال محاكاة مرضى افتراضيين.
الاستخدام في سياقات غير حرجة أو داعمة فقط، بعيدًا عن جلسات العلاج المباشر.
تحذير مهم لصناع القرار
اختتم الباحثون دراستهم برسالة تحذيرية:
“لا يكفي القول إن هذه المشكلات ستحل مع مرور الوقت أو زيادة البيانات. هناك حاجة ملحة إلى أطر تنظيمية صارمة لضمان ألا تضر هذه الأدوات بالصحة النفسية للمستخدمين.”
