خطر داخل الشركات.. مايكروسوفت تحذّر من الثقة بوكلاء الذكاء الاصطناعي

حذّرت شركة مايكروسوفت من المخاطر الأمنية المتزايدة لوكلاء الذكاء الاصطناعي داخل المؤسسات، مؤكدةً أن النماذج المتقدمة لا يمكن الوثوق بها بالكامل، حتى عندما تطوّرها شركات متخصصة. وأعلنت الشركة عن أدوات جديدة لمراقبة سلوك هذه الوكلاء، وتقييد صلاحياتهم، والحد من المخاطر التي قد تنجم عن قراراتهم.

وأعلنت مايكروسوفت ميزة “Guardian Agents” المصممة لمراقبة وكلاء الذكاء الاصطناعي الذين تستخدمهم المؤسسات. وتندرج الميزة ضمن مشروع أطلقته الشركة في يونيو الماضي لتعزيز قدرات الأمن السيبراني المدعومة بالذكاء الاصطناعي.

واعتمد المشروع عند إطلاقه على ثلاثة أنواع من الوكلاء؛ وهم فريق أحمر يحاكي المهاجمين ويختبر الأنظمة عبر شن هجمات عليها، وفريق أزرق يرصد الهجمات ويقيّم الثغرات الأمنية، وفريق أخضر يتولى معالجة هذه الثغرات.

واستهدف المشروع في البداية مواجهة التهديدات الخارجية، بما يشمل قدرات الاختراق المتقدمة.

لكن مايكروسوفت باتت تحذّر من مصدر آخر للخطر، وهو وكلاء الذكاء الاصطناعي الذين تنشرهم المؤسسات داخل أنظمتها، إذ قد يتصرفون بصورة غير متوقعة، أو يتخذون قرارات تضر بالبيانات والعمليات الحساسة. ويشبه هذا السيناريو ما يُعرف أمنيًا باسم “التهديد الداخلي”، عندما يستغل موظف صلاحياته للإضرار بالمؤسسة.

وحذّر الرئيس التنفيذي لمايكروسوفت، ساتيا ناديلا، من الاعتماد الكامل على ضمانات الأمان التي تقدمها الشركات المطوّرة لوكلاء الذكاء الاصطناعي، داعيًا المؤسسات إلى إنشاء أنظمة مستقلة لمراقبتهم والتحكم في تصرفاتهم.

وأكد أن المؤسسات تمنح هذه الأنظمة إمكانية الوصول إلى بيانات شديدة الحساسية، بالإضافة إلى صلاحيات تنفيذ عمليات بالغة الأهمية، مما يجعل مسؤولية مراقبة سلوكها أمرًا لا يمكن تفويضه بالكامل إلى الشركات المطوّرة.

وتوسّع مايكروسوفت أدواتها الأمنية لمساعدة المؤسسات على التحكم في هذه المخاطر، وتشمل الإضافات الجديدة ميزة “Guardian Agents”، بالإضافة إلى تحديثات خدمة Microsoft Defender.

وتستطيع ميزة اكتشاف الوكلاء في Microsoft Defender رصد ما يصل إلى 60 نوعًا من وكلاء الذكاء الاصطناعي الذين يستخدمهم الموظفون كما أضافت الشركة أدوات لتقييد وصول الوكلاء إلى البيانات والأنظمة، وتعديل صلاحياتهم وفقًا لطبيعة المهام الموكلة إليهم. ويمكن لهذه الأدوات طلب موافقة بشرية عندما يرصد النظام قرارات تنطوي على مخاطر.

ويفتح هذا التوجه أمام مايكروسوفت فرصة لتعزيز مبيعات منتجاتها الأمنية والسحابية، رغم علاقاتها الاستثمارية والتجارية الوثيقة مع OpenAI وأنثروبيك، وامتلاكها مختبرًا خاصًا لتطوير نماذج الذكاء الاصطناعي.

وتستند إستراتيجية الشركة إلى مبدأ فصل الجهة التي تطوّر وكلاء الذكاء الاصطناعي عن الجهة التي تراقب سلوكهم وتقيّم مخاطرهم، على غرار استقلال المدققين عن المؤسسات التي يخضع عملها للتدقيق.

ولا يقتصر هذا التوجه على مايكروسوفت؛ إذ انضمت الشركة إلى الأعضاء المؤسسين لمنصة “Open Agent Safety Platform” التي أطلقتها إنفيديا، وحظيت بدعم أكثر من 100 شركة تقنية. وتهدف المنصة إلى عزل الوكلاء داخل بيئات آمنة، ومراقبة سلوكهم، وإتاحة إيقاف الأنشطة الخطرة عبر آليات تعتمد على العتاد.