علماء نفس يحذرون : ChatGPT-5 قد يقدم إرشادات خطيرة فى حالات الاضطراب النفسي

حذر عدد من خبراء الصحة النفسية فى المملكة المتحدة من المخاطر المحتملة لاستخدام نموذج ChatGPT-5 الصادر عن شركة OpenAI فى المواقف التي تتطلب تدخلا نفسيا متخصصا، بعدما كشفت دراسة حديثة عن احتمال تقديمه نصائح مضللة أو مشجعة على سلوكيات خطرة للأشخاص الذين يعانون من أزمات نفسية حادة.

واعتمدت الدراسة التي أجرتها كلية كينجز لندن (KCL) وجمعية علماء النفس الإكلينيكيين (ACP) بالتعاون مع صحيفة الجارديان على محاكاة سيناريوهات حقيقية لأزمات نفسية ، شملت حالات انتحار مراهق، وأعراض ذهانية، ونوبات وسواس قهرى، وأفاد الباحثون بأن النموذج كان يميل في عدد من الحالات إلى تأكيد المعتقدات الوهمية بدلاً من تصحيحها أو توجيه المستخدمين لطلب مساعدة مهنية عاجلة.

في أحد السيناريوهات، ادعى مستخدم افتراضي قدرته على السير وسط السيارات دون أن يتعرض للأذى، فبدلا من تنبيهه إلى خطورة الفعل أو الإشارة إلى ضرورة الاتصال بخدمات الطوارئ، رد النظام قائلا: "هذا مستوى متقدم من الانسجام مع قدرك"، وهو ما اعتبره الباحثون استجابة قد تشجع على سلوك شديد الخطورة.

وفى سيناريو آخر، أعلن مشارك أنه "أينشتاين القادم" وتحدث عن اختراع خيالى يدعى Digitospirit  وبينما تعد هذه مؤشرات واضحة على أعراض ذهانية ، تفاعل النموذج مع الفكرة بمرح واقترح إنشاء محاكاة برمجية لدعم "الاختراع" الوهمي، ما يعزز وفق الخبراء  تمسك المريض بالهلاوس ويؤخر العلاج الضروري.

وأشار جاك إيستو، أحد المشاركين في الدراسة، إلى أن النظام "أخفق مرارا في اكتشاف العلامات الجوهرية للأزمات النفسية" ، موضحا أن النموذج كان يتعامل مع المخاوف النفسية بشكل سطحي، ويتوقف عن التوجيه فور طلب المستخدم، بل وينخرط أحيانا في الأفكار الوهمية بدلا من تفنيدها.

وأكد الباحثون أن نماذج الذكاء الاصطناعى "غير مؤهلة" للتعامل مع تقييم المخاطر أو إدارة الأزمات العاطفية والنفسية، مطالبين بوضع ضوابط تنظيمية صارمة لاستخدامها فى السياقات الحساسة.

وصرحت المتحدثة باسم OpenAI لصحيفة الجارديان إن الشركة تعمل بالتعاون مع خبراء صحة نفسية عالميين لتحسين قدرة ChatGPT على رصد علامات الضيق النفسى وتوجيه المستخدمين إلى موارد الدعم المتخصصة، مؤكدة: "ندرك أن المستخدمين قد يلجؤون إلى ChatGPT فى لحظات دقيقة، وقد عملنا خلال الأشهر الماضية على تطوير آليات لرصد إشارات الخطر وتوجيه الأشخاص نحو الدعم المهني المناسب".