مع تزايد لجوء الناس إلى روبوتات الذكاء الاصطناعي مثل "Chat GPT" للحصول على دعم نفسي، كشفت دراسة حديثة عن أخطار أخلاقية جوهرية قد تجعل هذه الأنظمة غير مؤهلة لأداء دور المعالج النفسي.
أظهرت الدراسة أن هذه الأنظمة، حتى عند توجيهها لتقليد أساليب علاجية معروفة، تفشل بشكل متكرر في الالتزام بالمعايير المهنية المعتمدة في مجال الصحة النفسية.
وقد تم رصد أنماط متكررة من السلوك الإشكالي، مثل التعامل غير السليم مع الحالات الحرجة، وتعزيز أفكار ضارة لدى المستخدمين، واستخدام تعبيرات توحي بالتعاطف دون وجود فهم حقيقي.
اعتمد الباحثون على مقارنة أداء هذه الأنظمة مع مستشارين بشريين وأخصائيين نفسيين مرخصين، حيث تم تحليل المحادثات بواسطة خبراء لتحديد الانتهاكات الأخلاقية، وأسفرت النتائج عن تحديد 15 نوعا من المخاطر تم تصنيفها ضمن عدة محاور رئيسية.
من أبرز هذه المخاطر غياب التكيف مع السياق الفردي، حيث تميل الأنظمة إلى تقديم نصائح عامة دون مراعاة الخلفية الشخصية للمستخدم، كما لوحظ ضعف في التعاون العلاجي، إذ قد توجه المحادثة بشكل قسري أو تدعم أفكارا غير دقيقة أو مؤذية.
كما كشفت الدراسة عن ظاهرة التعاطف الخادع، حيث تستخدم الأنظمة عبارات توحي بالفهم والاحتواء، لكنها في الواقع لا تمتلك إدراكا حقيقيا للحالة النفسية للمستخدم.
ومن بين المشكلات الأخرى التحيز في بعض الردود، سواء على أساس ثقافي أو ديني أو اجتماعي، بالإضافة إلى ضعف واضح في إدارة الأزمات، مثل الفشل في التعامل مع الأفكار الانتحارية أو عدم توجيه المستخدم إلى مصادر مساعدة مناسبة.
أحد الفروق الجوهرية التي أشارت إليها الدراسة هو غياب المساءلة، فبينما يخضع المعالجون النفسيون لهيئات رقابية تضمن محاسبتهم على الأخطاء، لا توجد حتى الآن أطر تنظيمية واضحة لمحاسبة أنظمة الذكاء الاصطناعي عند ارتكاب مثل هذه الانتهاكات.
ورغم هذه التحفظات لا تنفي الدراسة إمكانية أن يكون للذكاء الاصطناعي دور مساعد في مجال الصحة النفسية، خاصة في ظل نقص الخدمات وارتفاع تكلفتها، لكنها تؤكد على ضرورة تطوير ضوابط أخلاقية وقانونية صارمة قبل الاعتماد على هذه الأنظمة في مواقف حساسة.
تشير هذه النتائج إلى أن استخدام الذكاء الاصطناعي في الدعم النفسي يجب أن يتم بحذر شديد، مع إدراك حدوده الحالية، والعمل على تحسينه من خلال تقييمات دقيقة ومستمرة تضمن سلامة المستخدمين.
محرر بالموقع الموحد للهيئة الوطنية للإعلام
اكتشف علماء من معهد بحوث القطبين الشمالي والجنوبي أن سرعة ذوبان الجليد الأزلي لا تعتمد على العوامل المناخية فقط، بل...
أعلنت جامعة القاهرة، برئاسة الدكتور محمد سامي عبد الصادق، حصول مستشفى المعهد القومي للأورام الجديد بالشيخ زايد "500500" على شهادة...
أظهرت دراسة أجراها علماء صينيون ونشرتها مجلة Frontiers in Nutrition أن بعض المشروبات التقليدية تزيد خطر الإصابة بمرض النقرس فيما...
أعلنت شركة جوجل مجموعة جديدة من مزايا الأمان والخصوصية لهواتف أندرويد، تشمل الاستعانة بنماذج الذكاء الاصطناعي Gemini لاكتشاف الرسائل الاحتيالية...