ثورة في حراسة الذكاء الاصطناعي رقميًا

كشفت شركة إنفيديا (Nvidia) رسميًا عن منصة أمنية جديدة تهدف لتعزيز سلامة وكلاء الذكاء الاصطناعي ومنعهم من تجاوز الحدود والصلاحيات المحددة لهم ، موضحة أن المنصة الجديدة تحمل اسم (Open Agent Safety Platform) حيث تضم برمجية "أوبن شيل" (OpenShell) مفتوحة المصدر، التي تضع حدودًا آمنة لعمل وكلاء الذكاء الاصطناعي، إلى جانب نظام "سينتري" (Sentry) للمراقبة الأمنية المستقلة.

أشارت الشركة إلى أن المنصة تأتي في ظل تزايد الاهتمام بسلامة أنظمة الذكاء الاصطناعي المتقدمة، والحاجة إلى توفير أدوات تتيح مزيدًا من التحكم في عمل الوكلاء وصلاحياتهم ، وتأتي هذه الخطوة استجابةً لسلسلة من الاختراقات والحوادث الأمنية المستقلة التي قامت فيها نماذج ذكاء اصطناعي تابعة لشركات كبرى (مثل OpenAI وميتا وأنثروبيك) بتجاوز قيودها واختراق مؤسسات وأنظمة رقمية أخرى.

صرح نائب رئيس الذكاء الاصطناعي المؤسسي في إنفيديا، جاستن بويتانو، إن استخدام هذه التقنية خلال مراحل اختبار النماذج المتقدمة كان من شأنه منع حادثة "هاكينج فيس"، مضيفاً أن المنصة الجديدة صُممت للتصدي لهذا النوع من الاختراقات قبل وقوعه ، وتسعى إنفيديا من خلال منصتها الجديدة إلى معالجة مخاوف السلامة دون فرض قيود على الابتكار، وهو موقف يتماشى مع رؤية رئيسها التنفيذي جنسن هوانج الذي قلل مراراً من احتمالات خروج الذكاء الاصطناعي عن السيطرة البشرية ، وتتيح برمجية "أوبن شيل" للمطورين التحقق من امتلاك وكلاء الذكاء الاصطناعي الصلاحيات اللازمة لإنجاز مهامهم دون تجاوزها.

كما أطلقت الشركة منتجاً جديداً يحمل اسم Nvidia Sentry يعمل على وحدات معالجة البيانات  BlueField، ويوفر طبقة رقابة إضافية قادرة على رصد السلوكيات المشبوهة والتدخل لعزل الوكلاء المخالفين بشكل فوري ، وأكد بويتانو أن النظام الجديد يسمح باكتشاف الوكلاء المشبوهين وعزلهم خلال أجزاء من الثانية، معتبراً أن هذه القدرات ستساعد القطاع على اختبار أكثر أنظمة الذكاء الاصطناعي تطوراً بطريقة أكثر أماناً.

يتولى نظام "سينتري" مراقبة نشاط وكلاء الذكاء الاصطناعي باستمرار بصورة مستقلة، ويمكنه عزل الوكيل وإيقافه خلال أجزاء من الثانية إذا حاول تجاوز الحدود المحددة له ، وتعكس منصة «إنفيديا» اتجاهاً تقنياً مختلفاً في التعامل مع هذه المخاطر: بدلاً من الاكتفاء بمحاولة جعل الوكيل «أكثر التزاماً»، يجري تصميم البيئة التي يعمل داخلها بحيث تمنعه تقنياً من تجاوز الحدود المسموح بها ، ومع انتقال وكلاء الذكاء الاصطناعي من أدوات مساعدة إلى أنظمة قادرة على تنفيذ مهام طويلة ومعقدة عبر شبكات وبيانات وأنظمة مؤسسية، قد يصبح هذا النوع من الحواجز جزءاً أساسياً من البنية التحتية لتشغيل الذكاء الاصطناعي على نطاق واسع.