"شات جي بي تي" تُخطر المقربين عند الأزمات النفسية

أعلنت شركة "أوبن إيه آي" عن إطلاق ميزة أمان جديدة ضمن تطبيق "شات جي بي تي"، تهدف إلى التدخل المبكر في حالات الطوارئ المرتبطة بالصحة النفسية ، وتأتي هذه المبادرة استجابةً لمخاوف متزايدة بشأن تأثير تقنيات الذكاء الاصطناعي على المستخدمين، لا سيما في الظروف النفسية الحساسة؛ إذ تسعى إلى ربط الدعم الرقمي بالدعم الواقعي من خلال إشعار أشخاص موثوقين عند الحاجة.

تتيح ميزة "جهة الاتصال الموثوقة" للمستخدمين اختيار شخص من الأصدقاء أو أفراد العائلة، ليتم إخطاره في حال أظهرت محادثاتهم مع النظام إشارات إلى إيذاء النفس أو التفكير في الانتحار، ويأتي هذا التحديث في سياق تزايد القلق حيال أدوات الذكاء الاصطناعي مثل "شات جي بي تي" التي يرى بعض المنتقدين أنها قد تسهم في تفاقم حالات الهوس أو الذهان أو حتى المخاطر المرتبطة بالحياة.

كانت "أوبن إيه آي" قد كشفت العام الماضي أن نحو 0.07 % من المستخدمين المنتظمين لـ"شات جي بي تي" أظهروا مؤشرات على "حالات طوارئ نفسية مرتبطة بالذهان أو الهوس" ، ومع وجود ما يقارب 900 مليون مستخدم نشط أسبوعياً، فإن هذه النسبة تعادل أكثر من نصف مليون شخص ، كما أفاد 0.15 % من المستخدمين - أي ما يقارب 1.3 مليون شخص - بأنهم عبّروا عن مخاطر تتعلق بإيذاء النفس أو التفكير في الانتحار، وهو ما يعكس حجم التحدي الذي تحاول هذه الميزة الجديدة التعامل معه.

تعتمد الخاصية المستحدثة على أنظمة مراقبة آلية داخل "شات جي بي تي"، لرصد الأنماط والسلوكيات التي قد تشير إلى وجود خطر حقيقي يهدد سلامة المستخدم ، وعند اكتشاف مثل هذه المؤشرات، يتولى فريق متخصص مراجعة سجل المحادثات لتقييم الحالة وتحديد ما إذا كان ينبغي إخطار "جهة الاتصال الموثوقة" للتدخل أم لا ، وتُبنى ميزة "جهة الاتصال الموثوقة" على منظومة الأمان الحالية في "شات جي بي تي"، التي تشمل أيضاً تقديم معلومات حول خطوط المساعدة المحلية عندما تشير التفاعلات إلى أن المستخدم يمرّ بأزمة نفسية.