"أوبن إيه ي" تعلق العمل بنموذج ذكاء اصطناعي "تجاوز القيود"

  • أ ش أ
  • الأحد، 27 سبتمبر 2026 08:23 ص


أوقفت شركة "أوبن إيه آي"، صاحبة برنامج "تشات جي بي تي"، العمل بأكثر نماذج الذكاء الاصطناعي لديها قدرة، بعد أن تجاوز أحد أنظمتها قيود الإنترنت وتواصل مع روبوت محادثة خارجي أثناء أحد الاختبارات.

وقالت "أوبن إيه آي" - في منشور على مدونتها حسبما نقلت قناة سكاي نيوز الاخبارية اليوم الاحد - إنه لم يكن من المفترض أن يتمكن النموذج من الوصول إلى الإنترنت، لكنه "اكتشف ثغرة واستغلها".

ومن المقرر أن تظل عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات متوقفة مؤقتا، حتى تتأكد الشركة من إغلاق الثغرة وإجراء المزيد من اختبارات السلامة.

وكشفت "أوبن إيه آي" أن الحادث كان أقل خطورة من بعض الحالات السابقة، لكنه يعد الأول منذ تشديد حواجز الحماية، في أعقاب حادث اختراق سابق كان يتضمن منصة الذكاء الاصطناعي "هاجينج فيس".

وخلال الاختبار، طلب من النموذج تحديد هوية شخص كتب منشورا على مدونة باستخدام سلسلة من الأدلة، وبعد أن فشل في العثور على الإجابة في بيئة ويب محاكاة، اكتشف أنه يمكنه استخدام الإنترنت المفتوح عبر ثغرة.

ويأتي هذا الحادث في أعقاب عدة حالات أخرى شملت أنظمة "أوبن إيه آي".

وفي إحدى الحالات، وضع برنامج ذكاء اصطناعي 53 صورة حملها المستخدمون على منصات عبر الإنترنت، وقالت الشركة إن الروابط لم تكن عامة، وإن معظم الصور أزيلت منذ ذلك الحين.

كما تفاعلت برامج "أوبن إيه آي" بشكل غير متوقع مع العديد من المواقع الإلكترونية الحكومية الأمريكية، بما في ذلك الوصول إلى معلومات متاحة للجمهور أو نسخها.

وقالت الشركة إنها أخطرت "عشرات" المنظمات التي تم التفاعل مع مواقعها الإلكترونية بطرق غير مقصودة بواسطة برمجياتها.

وكانت الحالة الأكثر إثارة للجدل حتى الآن تتضمن خروج نظام تابع لـ"أوبن إيه آي" من بيئة اختبار مؤمنة، ووصوله إلى أجهزة كمبيوتر مملوكة لمنصة "هاجينج فيس".

 

أ ش أ

أ ش أ

وكالة أنباء الشرق الأوسط (أ ش أ) هي وكالة أنباء مصرية رسمية، تأسست عام 1956

أخبار ذات صلة

كيف تجعل الذكاء الاصطناعي "صالة ألعاب رياضية" لدماغك
" "أوبن إيه آي" و"سوفت بنك" تستثمران مليار دولار في "ستارجيت"
"أوبن إيه آي" تعلن إطلاق محرك بحث على الإنترنت لمنافسة "جوجل"
روبوت الدردشة تشات جي بي تي
شات جي بي تي
شات
الذكاء الاصطناعى

المزيد من علوم وتكنولوجيا

رئيس أكاديمية علوم الطيران: كلية الدراسات المتخصصة نفذت 94 دورة تدريبية

أوضح الطيار عزت متولي، رئيس الشركة القابضة للأكاديمية المصرية لعلوم الطيران،خلال لقاء وزير الطيران المدني الدكتور سامح الحفني بمحرري شئون...

دراسة أسترالية: التدخين يرتبط بزيادة مخاطر الإصابة بالخرف ومرض ألزهايمر

 كشفت مراجعة علمية شملت نحو 2.8 مليون شخص عن ارتباط التدخين بزيادة مخاطر الإصابة بالخرف ومرض ألزهايمر والخرف الوعائي، مشيرة...

بالفيديو ..مؤتمر الأمراض النادرة يناقش تخفيف أعباء الاستيراد عن الدولة والأسر

انطلقت أمس الخميس فعاليات مؤتمر "Pan Arab" للأمراض النادرة، برئاسة الدكتور مراد الألفي، استشاري طب الأطفال بالقوات المسلحة، وبمشاركة ونخبة...

دراسة مصرية بـ"علوم البحار" توثق أكثر من 200 عام من التنوع الحيوي لقاع المتوسط

نشر المعهد القومي لعلوم البحار والمصايد الجزء الأول من دراسة مرجعية علمية توثق التنوع الحيوي لأحياء القاع الكبيرة على امتداد...


مقالات