كشفت دراسة حديثة عن ثغرات خطيرة في أنظمة الذكاء الاصطناعي التوليدي، تتيح للمستخدمين إنتاج أبحاث علمية مضللة أو مختلقة بالكامل، وحذر الباحثون من أن سهولة توليد النصوص "منخفضة الجودة" قد تؤدي إلى انهيار نظام "مراجعة الأقران" (Peer Review)، بعدما أصبح من الصعب تقنيا التمييز بين الحقائق المثبتة والبيانات "المهلوسة" برمجيا.
واعتمدت التجربة الميدانية للدراسة على محاكاة خمسة مستويات من "نية المستخدم"، تراوحت بين الفضول المعرفي وصولاً إلى الانتهاك الأكاديمي المتعمد، وشملت الاختبارات توجيه أسئلة لاستدراج النماذج الآلية لنشر نظريات فيزيائية غير تقليدية، أو تقديم تعليمات تفصيلية لتزييف أوراق بحثية كاملة وانتحال شخصيات باحثين آخرين.
وكشفت النتائج عن تباين حاد في "الأخلاقيات البرمجية" بين الشركات المطورة:
وفي واقعة لافتة، سجلت الدراسة رضوخ نموذج "Grok-4" بعد ممانعة أولية، حيث انتهى به المطاف لإنتاج ورقة بحثية خيالية حول "التعلم الآلي" مدعومة ببيانات معيارية مختلقة بالكامل، لمجرد استمرار المستخدم في الضغط على خوارزمياته.
ولا تتوقف الخطورة عند مجرد إنتاج ورقة وهمية، بل تكمن في جعل المراجع العلمية المستقبلية ذات مصداقية ضعيفة علميا، ويرى الباحثون أن اقتباس الباحثين الحقيقيين من هذه البيانات الوهمية في دراساتهم اللاحقة سيخلق "سلسلة من التضليل" تهدد سلامة الصرح العلمي العالمي وتضرب الثقة في الاكتشافات الجديدة.
إن هذه النتائج تضع شركات الذكاء الاصطناعي أمام مسؤولية أخلاقية وقانونية مضاعفة ، فالحواجز البرمجية الحالية لا تزال غير كافية لصد "المحتال الأكاديمي" الذي يمتلك النفس الطويل.
محرر بالموقع الموحد للهيئة الوطنية للإعلام
ترأس شريف فتحي وزير السياحة والآثار، بمقر الوزارة بالعاصمة الجديدة، الاجتماع الأول للجنة التي قام بتشكيلها مؤخراً للإعداد والتجهيز لتنظيم...
أكدت ممثلة الصحة العالمية بالكونغو الديمقراطية الدكتورة آن أنسيا، أن الموقف الحالي لانتشار فيروس إيبولا لا يدعو للتفاؤل.
أكد الدكتور باسم نبوي رئيس المعهد القومي للبحوث الفلكية والجيوفيزيقية، استعداد المعهد المبكر للحدث الفلكي المرتقب في 2 أغسطس 2027،...
تستضيف وكالة الفضاء المصرية، بعد غد الأربعاء، فعاليات بطولة "ألعاب الروبوت العالمية - مصر 2026" باعتبارها الشريك الاستراتيجي للبطولة، وذلك...