الصين تشدد الرقابة على روبوتات الدردشة الذكية

تعتزم الحكومة الصينية فرض قيود جديدة على روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، في خطوة تستهدف الحد من تأثيرها العاطفي على المستخدمين لا سيما في القضايا الحساسة مثل الانتحار وإيذاء النفس.

وبحسب المسودة الصادرة عن إدارة الفضاء الإلكتروني الصينية، تستهدف القواعد الجديدة ما يعرف بـ "خدمات الذكاء الاصطناعي التفاعلية الشبيهة بالبشر" وهي الأنظمة التي تحاكي الشخصية الإنسانية وتتفاعل مع المستخدمين عاطفيًا عبر النصوص أو الصور أو الصوت أو الفيديو.

تنص المسودة على حظر توليد أي محتوى يشجع على الانتحار أو إيذاء النفس أو يتضمن عنفا لفظيا أو تلاعبا عاطفيًا قد يضر بالصحة النفسية للمستخدمين.

وفي حال أبدى المستخدم نية صريحة للانتحار، تلزم القواعد شركات التقنية بتدخل بشري فوري مع التواصل مباشرة مع ولي الأمر أو شخص محدد مسبقًا.

كما تحظر اللوائح على روبوتات الدردشة إنتاج محتوى يتعلق بالمقامرة أو المواد الإباحية أو العنف، مع فرض قيود خاصة على استخدام القصر لتقنيات "الصحبة العاطفية" القائمة على الذكاء الاصطناعي، بما في ذلك اشتراط موافقة أولياء الأمور وتحديد فترات زمنية للاستخدام.

وتلزم القواعد المنصات بمحاولة التحقق من عمر المستخدم حتى في حال عدم الإفصاح عنه، وتطبيق إعدادات خاصة بالقصر عند الشك، مع إتاحة آلية للاعتراض.

كما تُلزم الشركات بتنبيه المستخدم بعد ساعتين من التفاعل المتواصل مع الذكاء الاصطناعي وإجراء تقييمات أمنية إلزامية للروبوتات التي يتجاوز عدد مستخدميها مليون مسجل أو 100 ألف مستخدم نشط شهريًا.

ويرى خبراء أن هذه الخطوة تمثل سابقة عالمية، إذ ستكون الصين أول دولة تحاول تنظيم الذكاء الاصطناعي ذي الطابع الإنساني، مؤكدين أن اللوائح الجديدة تعكس انتقالًا "من سلامة المحتوى إلى سلامة المشاعر"، في ظل الانتشار السريع لتطبيقات "الرفيق الرقمي" والمشاهير الافتراضيين في الصين.