"مايكروسوفت" تحذر من مخاطر الذكاء الاصطناعي غير الخاضع للرقابة

أصدرت شركة البرمجيات والتكنولوجيا الأمريكية "مايكروسوفت" تحذيرا شديدا بشأن ظاهرة "الذكاء الاصطناعي الخفي" (Shadow AI)، التي تشير إلى استخدام الموظفين لأدوات وتقنيات الذكاء الاصطناعي في العمل دون علم أو موافقة أقسام تكنولوجيا المعلومات.

وأفاد باحثون من الشركة بأن برامج المساعد الآلي تستخدم بالفعل في البرمجة لدى أكثر من 80 % من الشركات المدرجة على قائمة "فورتشن 500" ، وأضاف الباحثون أن معظم الشركات ليس لديها قواعد واضحة لاستخدام الذكاء الاصطناعي، الأمر الذي تشكل سرعة انتشاره مخاطر جسيمة.

وأضاف تقرير للشركة أن غياب الرقابة من قبل المسئولين و"الذكاء الاصطناعي الخفي" يفتحان الباب أمام أساليب هجوم جديدة، مشيرا إلى أن النشر السريع لبرامج الذكاء الاصطناعي قد يتجاوز ضوابط الأمن والامتثال، ويزيد من خطر استخدام الذكاء الاصطناعي غير المصرح به.

ويقصد بـ"الذكاء الاصطناعي الخفي" استخدام الموظفين لتطبيقات الذكاء الاصطناعي من دون علم أو موافقة رسمية من قسم تقنية المعلومات أو الأمن السيبراني في أي شركة.

ويستخدم الموظفون بشكل مستقل أدوات أو برامج الذكاء الاصطناعي من الإنترنت، مثل برامج الحاسوب ذاتية التشغيل، لإنجاز مهامهم بسرعة أكبر، من دون إبلاغ أي شخص في التسلسل الهرمي للشركة.

ويدق تقرير "مايكروسوفت" ناقوس الخطر بشأن الفجوة المتزايدة بين الابتكار والأمن السيبراني ، ومع أن استخدام الذكاء الاصطناعي يتزايد بشكل هائل، فإن أقل من نصف الشركات - أي 47 % - لديها ضوابط أمنية محددة لاستخدام الذكاء الاصطناعي التوليدي، ويستخدم 29 % من الموظفين بالفعل برامج ذكاء اصطناعي غير مصرح بها في عملهم، هذا الأمر يخلق ثغرات أمنية في أنظمة الشركات.

وقدمت مايكروسوفت لمواجهة هذه المخاطر عدة توصيات منها:

ـ إنشاء سجل مركزي لمراقبة جميع أدوات الذكاء الاصطناعي المستخدمة داخل المؤسسة.

ـ تطبيق مبدأ الوصول الأدنى للبيانات، بحيث لا يطلع المساعد الآلي إلا على ما يحتاجه فقط.

ـ توفير بدائل مؤسسية آمنة (Enterprise-grade AI) للموظفين لتجنب لجوئهم للأدوات الشخصية غير المحمية.