ثورة الذكاء الاصطناعي في "روبلوكس": حارس رقمي يعيد صياغة الأمان

أطلقت منصة روبلوكس (Roblox) مؤخرا تحديثات كبرى لنظام الرقابة الخاص بها، معتمدة بشكل أساسي على الذكاء الاصطناعي متعدد الوسائط لتعزيز الأمان والحد من المحتوى الضار في الوقت الفعلي، قبل أن يصل إلى المستخدمين.

يعتمد النظام الجديد على تحليل متعدد الوسائط، حيث لا يقتصر على فحص عنصر واحد فقط، بل يقوم بتقييم المشهد الكامل داخل اللعبة، بما يشمل الشخصيات (Avatars)، والنصوص، والعناصر ثلاثية الأبعاد.

هذا النهج يتيح اكتشاف المخالفات التي قد تمر دون ملاحظة في الأنظمة التقليدية، مثل الرسومات أو الرموز المسيئة التي لا يمكن رصدها عند تحليل كل عنصر بشكل منفصل ، وفي حال رصد انتهاكات متكررة داخل جلسة لعب معينة، يقوم النظام بإغلاق الخادم (Server) المخالف فقط، دون التأثير على اللعبة بالكامل.

ومنذ إطلاق الميزة، يتم إيقاف نحو 5 آلاف خادم يوميًا بسبب محتوى مخالف.

تعمل روبلوكس (Roblox)على توسيع نطاق النظام ليغطي 100% من وقت اللعب، مع تطوير أدوات إضافية تستهدف حظر المستخدمين المخالفين بشكل فردي دون الإضرار ببقية اللاعبين.

ولم تغفل المنصة مطوري الألعاب، إذ أضافت لوحة تحكم جديدة تتيح لهم متابعة عدد الخوادم التي تم إغلاقها يوميًا بسبب سلوك المستخدمين، ويمكن أن تساعد هذه البيانات في اكتشاف المشكلات مبكرا، مثل إساءة استخدام أدوات داخل اللعبة، واتخاذ إجراءات وقائية قبل تفاقمها.

وتم تطوير قدرة النظام على كشف المحاولات المعقدة لتجاوز الرقابة، مثل استبدال الحروف بأرقام أو رموز (مثلا كتابة 5 بدلا من  S، مما أدى لتقليل الأخطاء في اكتشاف تسريب المعلومات الشخصية بمقدار 20 ضعفا.

وتتعاون "روبلوكس" مع شركات مثل "Keyword Studios" و"Riot Games" لإطلاق برنامج تدريبي جديد يهدف إلى تأهيل مديري المجتمعات الرقمية، ووضع معايير موحدة لإدارة المحتوى داخل الألعاب.

ويشرف على الجانب البحثي من المبادرة خبراء متخصصون، في محاولة لسد فجوة طالما عانت منها صناعة الألعاب في مجال إدارة المجتمعات الرقمية.

تعكس هذه الخطوة توجها متزايدا نحو استخدام الذكاء الاصطناعي ليس فقط لتحسين التجربة، بل لحماية المستخدمين بشكل استباقي، خاصة في بيئات الألعاب التي يصعب التحكم فيها يدويا.