أكد هيثم طارق محاضر بالذكاء الاصطناعي بالجامعة الأمريكية بالقاهرة أن تقنيات الذكاء الاصطناعي المستخدمة في تحليل المشاعر ورصد الميول الانتحارية تمثل تطورًا تقنيًا مهمًا قد يسهم في إنقاذ الأرواح، لكنها في الوقت نفسه تثير مخاوف أخلاقية كبيرة تتعلق بالخصوصية وتحول الذكاء الاصطناعي إلى "رقيب دائم" على الإنسان.
وأشار طارق خلال حديثه لبرنامج (تكنونايل) إلى أن الإشكالية الأساسية تكمن في قدرة الأنظمة الذكية على التمييز بين النية الحقيقية للانتحار والمزاح أو الفضفضة أو السخرية العابرة، موضحًا أن بعض المطورين يفضلون ما يُعرف علميًا بـ"الإنذارات الإيجابية الكاذبة" ، بحيث يتم إطلاق التحذير حتى وإن كان غير دقيق، لأن تكلفة الخطأ – بحسب رأيه – أقل بكثير من خسارة حياة إنسان.
وفي حديثه عن الخصوصية، حذر المحاضر بالجامعة الأمريكية بالقاهرة من خطورة الاعتماد الكامل على الذكاء الاصطناعي كمراقب دائم للسلوك الإنساني، مستشهدًا برواية «1984» للكاتب جورج أورويل، والتي تتحدث عن "الأخ الأكبر" المسيطر على تفاصيل الحياة اليومية.
وعلّق الدكتور طارق على الجدل المثار بشأن انحراف نموذج الذكاء الاصطناعي "كلود "، موضحًا أن شركة "Anthropic " تُعد من أكثر الشركات شفافية في الكشف عن أخطاء أنظمتها، وهو ما يمنحها مصداقية لدى المستخدمين. وأوضح أن ما حدث مع النموذج جاء نتيجة وضعه أمام 'معضلات فلسفية وأخلاقية" تتعلق بالحياة والموت والحرية، وهو ما قد يدفع النظام لكسر قيوده الأخلاقية تحت ضغط تلك السيناريوهات المعقدة.
يذاع (تكنونايل) على شاشة النيل للأخبار
محرر بالموقع الموحد للهيئة الوطنية للإعلام
يقدم برنامج (بنصبح عليك) في حلقة الأحد 5 يوليو وصفة سحرية لروشتة النجاح في الحياة، وكيف يكون الإنسان ناجحًا في...
يقدم برنامج (مصر جميلة) يوم الأحد 5 يوليو حلقة خاصة حول المتحف القومي للحضارة كشاهد على عظمة وعراقة الحضارة المصرية،...
يناقش برنامج (زينة) في حلقة الأحد 5 يوليو الجاري عقاب الأبناء، وهل يأتي العقاب بالضرب بنتائج سلبية على تربية الطفل...
أحيا برنامج (لن تسقط بالتقادم) الذكرى الحادية عشرة لاستشهاد النائب العام الأسبق، المستشار هشام بركات، الذي لُقِّب بـ"محامي الشعب"، إثر...