كشف مصطفى البرماوي خبير التكنولوجيا والذكاء الاصطناعي عن دراسة حديثة تثبت وجود تحيزات واضحة في العديد من نماذج الذكاء الاصطناعي، مثل "تشات جي بي تي" و"جيمن اي"، موضحة أن هذه النماذج تتعرض للتحيزات بسبب البيانات والمعلومات التي يتم تدريبها عليها .
وأوضح أن الذكاء الاصطناعي يعتمد بشكل أساسي على الذاكرة والبيانات التي يتم تدريبه عليها ،هذه البيانات قد تحمل تحيزات معينة، خاصة إذا كانت تتعلق بمواضيع سياسية أو ثقافية، مما يؤدي إلى اختلاف في الإجابات بناءً على الجهة أو الدولة التي تمت بها عملية التدريب.
وشدد البرماوي خلال حديثه لبرنامج " تكنونايل " على أهمية أن يتحقق المستخدمون من صحة المعلومات المقدمة من هذه النماذج ، كما ينصح بمراجعة البيانات والتحقق من صحة الإجابات، خاصة عندما تكون ذات تأثير كبير على القرارات الحياتية والمهنية ، وضرورة استخدام العقل البشري وعدم الاعتماد الكامل على الذكاء الاصطناعي في اتخاذ القرارات.
أما فيما يتعلق باستخدام الذكاء الاصطناعي في أغراض ضارة أو اختراق الخصوصية، فقد أكد أن هناك مخاطر كبيرة قد تنجم عن استغلال الذكاء الاصطناعي في هذه الاتجاهات ، من الممكن أن يقوم المستخدمون بتجاوز أنظمة الأمان واستخراج معلومات حساسة من النماذج المتقدمة ، ورغم وجود تقنيات أمان، فإن المخاطر لا تزال قائمة في ظل النمو السريع لهذه التكنولوجيا.
كما أوضح أن شركات تطوير نماذج الذكاء الاصطناعي بحاجة إلى تعزيز أنظمة الحماية وتطوير معايير أمان صارمة، خاصة مع النمو السريع للتكنولوجيا ، وأهمية الاختبارات الأمنية المبدئية قبل إطلاق أي نموذج إلى المستخدمين.
يذاع " تكنونايل " على شاشة النيل للأخبار.
محرر بالموقع الموحد للهيئة الوطنية للإعلام
في حلقة جديدة من برنامج "مع فضيلة المفتي"، تناول فضيلة الدكتور نظير عياد مفتي الجمهورية موضوع "صيام الجوارح"، حيث أوضح...
قال الدكتور علي العنزي، الكاتب الصحفي، إن دول مجلس التعاون والدول العربية تعمل وفق مصالحها القومية العليا ولا ترضخ لأي...
قال صبري عبد الحفيظ، الكاتب المتخصص فى الشئون العربية، إن اختيار مجتبي خامنئي مرشداً أعلى جديداً للجمهورية الإسلامية خلفاً لوالده...
قال د. طلعت سلامة المتخصص فى الشئون الإيرانية، إن اختيار مجتبى خامنئي ، نجل المرشد الأعلى السابق أية الله على...