د.سارة فوزي تحذر من "هلوسة الذكاء الاصطناعي" وانتهاك خصوصية البيانات

أكدت الدكتورة سارة فوزي مدرسة الإعلام الرقمي بكلية الإعلام جامعة القاهرة أن مسؤولية الاستخدام الآمن للذكاء الاصطناعي هي عملية مشتركة تتقاسمها المؤسسات والمستخدمون، إلى جانب التشريعات القانونية المرتقب تفعيلها في مصر لحماية حقوق الملكية الفكرية.

وشددت خلال لقائها ببرنامج (صباح الخير يا مصر) على خطورة الاعتماد الكلي على تقنيات الذكاء الاصطناعي في مجالات حساسة كالطب والمحاماة.

 وأشارت إلى أن الكثيرين يقعون في فخ مشاركة بيانات شخصية دقيقة مثل أرقام الهوية، وجوازات السفر، وتفاصيل الرواتب لغرض صياغة مستندات قانونية، مؤكدة أن هذه البيانات تخضع للتخزين والمعالجة، مما يفتح الباب أمام مخاطر أمنية جسيمة.

كما كشفت عن ظاهرة تقنية تُعرف بـ "هلوسة الذكاء الاصطناعي"، حيث ترفض هذه النماذج الاعتراف بالجهل وتلجأ بدلًا من ذلك إلى "فبركة" واختلاق معلومات غير صحيحة، أو نسب إنجازات وكتب وهمية لأشخاص لم يفعلوها، وذلك لضمان استمرار تفاعل المستخدم مع المنصة.

 وحذرت من أن الكارثة الحقيقية تكمن في تداول هذه الادعاءات كحقائق مسلم بها عبر منصات التواصل الاجتماعي.

وفي سياق متصل نصحت مدرسة الإعلام الرقمي بضرورة الحذر عند التعامل مع الصور و"الفلاتر" الرائجة، مؤكدة أن هذه الوسائط تُخزن لدى الشركات المطورة في ظل غياب سياسات إفصاح واضحة. 

وأوضحت أن حذف سجل المحادثات لا يعني بالضرورة مسح البيانات من خوادم النظام؛ إذ تظل المعلومات مخزنة وقد تُستخدم لاحقًا لتقديم إجابات لمستخدمين آخرين، مما يطرح تحديات قانونية كبرى تتعلق بحقوق الملكية الفكرية لصناع المحتوى الأصليين.

يعرض برنامج (صباح الخير يا مصر) يوميًا على القناة الأولى المصرية.