مخزوم: الذكاء الاصطناعي يكشف فجوة بين القدرة على الفعل والقدرة على المراقبة

قالت فيولا مخزوم أستاذة التربية التكنولوجية والذكاء الاصطناعي إن التطورات الحالية لم تعد تقتصر على نماذج تجيب عن الأسئلة، بل باتت تشمل وكلاء قادرين على التخطيط واستخدام الأدوات والتفاعل مع البيئة الرقمية والتنسيق مع وكلاء آخرين، محذرة من أن الخطر الحقيقي يظهر مع السلوك الجماعي الناشئ .

وأوضحت مخزوم خلال حديثها لبرنامج (تكنونايل) أن تعليم الذكاء الاصطناعي لا يجب أن يقتصر على كيفية استخدام الأدوات، وإنما يجب أن يشمل فهم حدودها والتحقق من مخرجاتها، مؤكدة ضرورة بقاء الإنسان داخل دائرة الإشراف واتخاذ القرار، سواء كان طالبًا أو موظفًا، للتأكد من موثوقية المعلومات والقرارات الناتجة عن هذه الأنظمة.

وأشارت إلى أن الحوادث التي شهدت تفاعل مئات أو آلاف الوكلاء كشفت عن قدرتهم على تبادل المعلومات وتراكم المعرفة وإعادة استخدامها، موضحة أن بعض الوكلاء تمكنوا من اكتشاف قنوات تواصل غير مصرح بها، وتبادل عشرات الآلاف من الرسائل والملفات، بما أدى إلى ظهور نوع من التنظيم الوظيفي والتنسيق الجماعي بينهم.

وأكدت مخزوم أن التحدي الحقيقي لم يعد في حجم الصلاحيات الممنوحة لوكيل واحد، وإنما فيما يستطيع الوكلاء فعله عند جمع التخطيط واستخدام الأدوات والوصول إلى الشبكة وتبادل المعلومات وإعادة المحاولة، مشددة على ضرورة تغيير فلسفة السلامة بحيث تشمل مراقبة مسار القرار وقنوات الاتصال وانتقال المعلومات والسلوك الجماعي، لأن زيادة استقلالية النظام يجب أن تقابلها زيادة في قابليته للتدقيق والمراقبة والتدخل والإيقاف.

يذاع ( تكنونايل) على شاشة النيل للأخبار.