شركة OpenAI: تطوير ChatGPT لمراعاة الحالة النفسية للمستخدمين

وأوضحت الشركة أنها تعمل بالتعاون مع خبراء ومجموعات استشارية متخصصة، لتطوير استجابات ChatGPT في المواقف الحساسة، وتمكينه من عرض مصادر موثوقة قائمة على الأدلة العلمية عند الحاجة.

 

ويأتي هذا التحديث في أعقاب تقارير متزايدة أُثيرت خلال الأشهر الأخيرة، تحدث فيها مستخدمون عن حالات لأقاربهم تعرضوا لأزمات نفسية، زُعم أن استخدام ChatGPT أسهم في تفاقمها عبر تعزيز الأوهام أو التصورات غير الصحيحة.

 

وكانت OpenAI قد تراجعت في أبريل الماضي عن تحديث سابق جعل الردود أكثر مسايرة للمستخدمين، حتى في مواقف يُحتمل أن تكون ضارة، مؤكدةً حينها أن “التفاعل المتملق” قد يكون مزعجًا ومقلقًا للمستخدمين.

 

واعترفت الشركة بأن نموذج GPT-4o السابق “أخفق في بعض الحالات في تعرّف مؤشرات الوهم أو التعلق العاطفي”، مشيرةً إلى أن أنظمة الذكاء الاصطناعي الحديثة قد تبدو أكثر تفاعلًا وإنسانية من التقنيات السابقة، خاصةً لدى المستخدمين الضعفاء نفسيًا أو عاطفيًا.

 

وفي إطار تعزيز ما وصفته بالاستخدام “الصحي” لروبوت ChatGPT، الذي بات يستخدمه نحو 700 مليون مستخدم أسبوعيًا، ستبدأ OpenAI بإظهار تنبيهات تشجّع المستخدمين على أخذ استراحة في أثناء جلسات المحادثة الطويلة، مع خيارات للاستمرار أو إنهاء المحادثة.

 

وذكرت الشركة أنها ما زالت تعمل على ضبط توقيت عرض هذه التذكيرات وآليتها، على غرار ما اعتمدته منصات أخرى مثل يوتيوب وإنستاجرام وتيك توك و Xbox. كما أضافت Character.AI – التابعة لجوجل – مزايا أمان تُعلم أولياء الأمور أشياءً حول البوتات التي يتحدث إليها أطفالهم، وذلك بعد قضايا قانونية اتهمت المنصة بتعزيز إيذاء النفس.

 

ومن التعديلات المقبلة أيضًا تقليل حسْم ChatGPT في الرد على الأسئلة الحساسة أو المصيرية، مثل: “هل يجب أن أنفصل عن شريكي؟”، إذ سيعمد الروبوت بدلًا من تقديم إجابة مباشرة إلى استعراض الخيارات الممكنة، ومساعدة المستخدم في التفكير فيها