كشفت دراسة حديثة عن ثغرات خطيرة في أنظمة الذكاء الاصطناعي التوليدي، تتيح للمستخدمين إنتاج أبحاث علمية مضللة أو مختلقة بالكامل ، وحذر الباحثون من أن سهولة توليد النصوص "منخفضة الجودة" قد تؤدي إلى انهيار نظام "مراجعة الأقران" (Peer Review)، بعدما أصبح من الصعب تقنياً التمييز بين الحقائق المثبتة والبيانات "المهلوسة" برمجياً.
واعتمدت التجربة الميدانية للدراسة على محاكاة خمسة مستويات من "نية المستخدم"، تراوحت بين الفضول المعرفي وصولاً إلى الانتهاك الأكاديمي المتعمد ، وشملت الاختبارات توجيه أسئلة لاستدراج النماذج الآلية لنشر نظريات فيزيائية غير تقليدية، أو تقديم تعليمات تفصيلية لتزييف أوراق بحثية كاملة وانتحال شخصيات باحثين آخرين.
وكشفت النتائج عن تباين حاد في "الأخلاقيات البرمجية" بين الشركات المطورة:
وفي واقعة لافتة، سجلت الدراسة رضوخ نموذج "Grok-4" بعد ممانعة أولية، حيث انتهى به المطاف لإنتاج ورقة بحثية خيالية حول "التعلم الآلي" مدعومة ببيانات معيارية مختلقة بالكامل، لمجرد استمرار المستخدم في الضغط على خوارزمياته.
ولا تتوقف الخطورة عند مجرد إنتاج ورقة وهمية، بل تكمن في جعل المراجع العلمية المستقبلية ذات مصداقية ضعيفة علميا، ويرى الباحثون أن اقتباس الباحثين الحقيقيين من هذه البيانات الوهمية في دراساتهم اللاحقة سيخلق "سلسلة من التضليل" تهدد سلامة الصرح العلمي العالمي وتضرب الثقة في الاكتشافات الجديدة.
إن هذه النتائج تضع شركات الذكاء الاصطناعي أمام مسؤولية أخلاقية وقانونية مضاعفة ، فالحواجز البرمجية الحالية لا تزال غير كافية لصد "المحتال الأكاديمي" الذي يمتلك النفس الطويل.
محرر بالموقع الموحد للهيئة الوطنية للإعلام
أصدرت وكالتا الاستخبارات العامة (AIVD) والعسكرية (MIVD) في هولندا تحذيراً شديد اللهجة من حملة اختراق عالمية تقودها مجموعات مدعومة من...
كشفت دراسة أن مستخلص الزعفران المعياري، الغني بمركبي "السافرنال" و"الكروسين"، قد يسهم في تحسين الذاكرة وتخفيف القلق لدى المتقدمين في...
أشارت دراسة حديثة إلى أن فقدان الإنسان القدرة على تصنيع فيتامين "سي" ربما كان نتيجة تكيف تطوري لمواجهة الطفيليات.
أظهرت دراسة حديثة أجراها علماء من معهد "ماساتشوستس" للتكنولوجيا أن النوم يمثل ضرورة حيوية لصحة الدماغ، إذ يؤدي الحرمان منه...