دراسة: نماذج الذكاء الاصطناعي تتأثر بالمعلومات المضللة

أظهرت دراسة أجراها باحثون من جامعة "أريزونا" الأمريكية أن سبعة من أبرز نماذج الذكاء الاصطناعي التوليدي يمكن أن تتأثر بالمعلومات المضللة خلال المحادثات المطولة، مع اختلاف واضح في مدى قابلية كل نموذج للخطأ أو الإقناع أو تصحيح المعلومات الخاطئة ، واختبر الباحثون سبعة نماذج لغوية كبيرة، هي إصدارات مختلفة من "تشات جي بي تي وكلود 3.5 سونيت وجيميني 1.5 برو ولاما 3-70 بي وديب سيك آر 1"، وذلك خلال محادثات متعددة الأدوار.

وجدت الدراسة أن "تشات جي بي تي 3.5" كان الأكثر ميلاً إلى تأكيد معلومات خاطئة تكررت خلال الحوار، بينما كان "كلاود3.5" الأقل عرضة لهذا السلوك. كما أصبحت جميع النماذج أكثر قابلية للتضليل عند التعامل مع موضوعات غامضة، في مؤشر على أن وفرة بيانات التدريب حول موضوع ما قد تعزز مقاومة النموذج للمعلومات المضللة ، وأظهر "ديب سيك" أعلى قابلية للإقناع أثناء المطالبات الجدلية المتصاعدة، بينما تمكنت أربعة نماذج هي: "تشات جي بي تي 4 أو وتشات جي بي تي 4 أو ميني وجيميني 1.5 برو وديب سيك" من تصحيح أخطائها بنسبة 100% عند منحها فرصة ثانية.

حذر الباحثون من أن هذه النتائج تكشف مشكلة تتجاوز الأخطاء الفردية؛ إذ يمكن للنموذج نفسه أن يقبل معلومة خاطئة ثم يرفضها لاحقاً خلال المحادثة ذاتها ، وقال الدكتور مارفن سليبيان، المؤلف الرئيسي للدراسة، إن هذا التذبذب يمثل خطراً عندما تُستخدم أنظمة الذكاء الاصطناعي في اتخاذ قرارات حساسة، مؤكداً ضرورة وجود إشراف بشري وعدم الاعتماد عليها بصورة كاملة.

أشار الباحثون إلى أن دراسة سلوك النماذج خلال محادثات متعددة الأدوار تعكس بصورة أقرب طريقة استخدامها في الحياة اليومية، مقارنة باختبارها من خلال أسئلة منفردة. كما يعمل الفريق البحثي حالياً على تطوير أدوات تساعد في تشخيص نقاط الضعف في نماذج الذكاء الاصطناعي، لاسيما الأنظمة المفتوحة التي تتيح للباحثين فحص آلياتها الداخلية.