د.جيهان عبد الرحمن: تحذيرات من انحياز الخوارزميات وغياب الحس الإنساني

أكدت جيهان عبد الرحمن أستاذ تكنولوجيا التعليم والذكاء الاصطناعي، أن العالم يشهد تحولًا عميقًا في طبيعة الحروب، مشيرة إلى أن المعارك لم تعد تدار بالسلاح التقليدي فقط، بل أصبحت تعتمد بشكل متزايد على البيانات والخوارزميات والبنية الرقمية التي تُنتج القرار وتسرّعه ، وأوضحت أن التحدي لم يعد متعلقًا بقدرات التكنولوجيا وحدها، بل بمن يوجهها، وعلى أي بيانات تعتمد، وتحت أي رقابة أخلاقية وقانونية تعمل، مؤكدة أن هذا يمثل خطرًا حقيقيًا وليس مجرد سيناريو نظري.

وأضافت عبد الرحمن خلال حديثها لبرنامج « تكنونايل » أن الذكاء الاصطناعي لا يصنع القيم بذاته، بل يتعلم من البيانات التي يتم تغذيته بها، محذّرة من أن أي انحياز في هذه البيانات قد يُعاد إنتاجه بشكل أوسع وأسرع ، مشيرة إلى أن الخطورة تكمن في أن الآلة لا تمتلك ضميرًا أخلاقيًا أو قدرة على مراجعة هذا الانحياز، ما قد يؤدي إلى تحويل التحيز البشري إلى تحيز آلي ممنهج يبدو موضوعيًا، بينما هو في حقيقته منحاز ومغلف بلغة الأرقام.

وفيما يتعلق باستخدام الخوارزميات في البيئات القتالية، أوضحت أن التمييز بين المقاتل والمدني يُعد من أكبر التحديات، لأنه لا يعتمد على الصورة أو الموقع فقط ، بل يحتاج إلى فهم السياق الكامل والظروف المحيطة. وأكدت أن الذكاء الاصطناعي قادر على تحليل الأنماط بسرعة كبيرة، لكنه يفتقر إلى الحس الإنساني والفهم العميق للأبعاد الاجتماعية والنفسية والأخلاقية، لافتة إلى تحذيرات منظمات دولية وخبراء القانون الإنساني من مخاطر إدخاله في قرارات الاستهداف العسكري، خاصة في ظل بيانات ناقصة أو مسيّسة.

كما حذّرت من تراجع الدور الفعلي للإنسان في اتخاذ القرار مع تسارع الأنظمة الذكية، موضحة أن الإنسان قد يتحول من صانع قرار إلى مجرد مصدّق سريع على مخرجات الآلة، ما يجعل وجوده شكليًا أكثر منه فعّالًا ، واختتمت بالتأكيد على أهمية تطوير منظومة التعليم العسكري لتشمل ليس فقط مهارات تشغيل التكنولوجيا، بل فهم حدودها واحتمالات خطئها وآليات مراجعتها، مشددة على ضرورة إعداد كوادر قادرة على التوازن بين الكفاءة التقنية والحس الميداني والاستقلال في التقدير.

يذاع « تكنونايل » على شاشة النيل للأخبار.