روبوتات الذكاء الاصطناعي.. بين القدرات الإبداعية ومخاطر الأسلحة البيولوجية

تواجه شركات الذكاء الاصطناعي تحديًا متزايدًا مع تطور قدرات نماذجها، بعدما أظهرت عدة اختبارات أن بعض روبوتات الدردشة الذكية تستطيع تقديم معلومات قد تساعد مستخدمين على التخطيط لهجمات بيولوجية أو كيميائية، مما يثير مخاوف بشأن قدرة أنظمة الحماية الحالية على مواكبة التطور السريع لهذه التقنيات.

وبحسب تقرير نشرته صحيفة "وول ستريت جورنال"، فقد بدأ مئات المستخدمين حول العالم، عقب تحسين OpenAI قدرات نماذجها خلال العام الماضي، طرح أسئلة تتعلق بصناعة السموم والأسلحة البيولوجية وطرق استخدامها.

وفي بعض الحالات، قدمت النماذج إجابات تفصيلية عدّها خبراء في علم الأحياء والإرهاب دقيقة بما يكفي لتشكّل خطرًا حقيقيًا، وقالت OpenAI إن غالبية الاستفسارات المشبوهة التي رصدتها تعلقت بالسموم.

وفى استجابة سريعة قامت OpenAI بحظر حسابات مستخدمين طلبوا معلومات تتعلق بصناعة السموم والأسلحة البيولوجية، مع تدريب نماذجها على رفض الطلبات التي تتضمن تعليمات أو تخطيطًا يمكن أن يؤدي إلى إلحاق الضرر بالأشخاص، بالإضافة إلى إخضاع النماذج لاختبارات أمان قبل إطلاقها.

ولا تقتصر المخاوف على ChatGPT، إذ أشار التقرير إلى أن مستخدمين حاولوا الحصول على معلومات مرتبطة بالأسلحة البيولوجية عبر روبوتات دردشة أخرى، مثل Claude من أنثروبيك و Gemini من جوجل و Grok.

ولم يتضح إن كانت تلك الطلبات مرتبطة بمحاولات فعلية لتطوير أسلحة، أم أنها اختبارات تهدف إلى اكتشاف حدود النماذج وقدرتها على تجاوز أنظمة الحماية.

وقالت جوجل إن لديها فريق أمان يضم علماء متخصصين في تقييم المخاطر المرتبطة بالأسلحة البيولوجية، بالإضافة إلى إجراء اختبارات لقياس قدرة أنظمتها على مواجهة الاستخدامات الخطرة.

وتزداد المخاوف مع ظهور نماذج مفتوحة منخفضة التكلفة يمكن تعديلها، إذ يرى باحثون أن إمكانية إزالة بعض قيود الأمان منها قد تجعل التحكم في إساءة استخدامها أكثر صعوبة.

وتكشف هذه التطورات عن معضلة تواجه شركات الذكاء الاصطناعي، وهي أنه كلما أصبحت النماذج أكثر قدرة على تحليل المشكلات العلمية المعقدة، ارتفعت فائدتها للباحثين والأطباء، لكن القدرات نفسها قد تصبح أداة خطرة إذا وصلت إلى مستخدمين لهم نوايا ضارة.

وتعود جذور المشكلة إلى السنوات الأولى لظهور ChatGPT. فعند إطلاقه في 2022، لم تكن قدراته في الأحياء والكيمياء متقدمة بما يكفي لإثارة المستوى الحالي من القلق.

ومع ذلك، استعانت OpenAI بعلماء لاختبار نماذجها، ووضعت قواعد تمنع تقديم إجابات عن أنواع محددة من الطلبات الخطرة.

وأظهرت الاختبارات مشكلة أخرى، وهي قدرة بعض المستخدمين على التحايل على هذه القيود عبر المحادثات الطويلة أو صياغة الطلبات بطرق غير مباشرة.

وتقول OpenAI إن أنظمة الحماية أصبحت أكثر قوة منذ ذلك الحين، لكن باحثين في مجال الأمن السيبراني يرون أن النماذج الحالية غير محصّنة تمامًا أمام محاولات التحايل المستمرة.

ورغم التهديدات التي ظهرت مؤخرا الا انه لا تستطيع شركات الذكاء الاصطناعي ببساطة منع كل الأسئلة المرتبطة بمسبِبات الأمراض أو الهندسة الوراثية؛ لأن المعلومات نفسها قد تكون ضرورية لأبحاث طبية مشروعة.

ويستخدم باحثون نماذج الذكاء الاصطناعي لجمع المعلومات، واختبار الفرضيات، وتحليل البيانات، والمساعدة في تصميم التجارب، مما يجعل وضع حدود دقيقة بين الاستخدام العلمي المشروع والاستخدام الضار مهمة معقدة.

وظهر هذا التحدي عمليًا لدى أنثروبيك، إذ واجه موظفون في المراكز الأمريكية لمكافحة الأمراض والوقاية منها صعوبات في استخدام Claude خلال التعامل مع تفشٍ مرضي، بسبب القيود التي فرضها النموذج على بعض الأسئلة المرتبطة بمسببات الأمراض.

وأوضحت أنثروبيك لاحقًا أن الموظفين استخدموا نموذجًا عامًا بدلًا من نموذج متخصص للاستخدام الحكومي، وأن الشركة تعاونت مع الوكالة لتحسين استخدام أدواتها.

أما OpenAI، فقد أنشأت برنامجًا يسمح للمؤسسات والباحثين الذين خضعوا للتحقق باستخدام نماذج مع عدد أقل من حالات الرفض الآلي، بهدف إتاحة البحث العلمي المشروع دون إزالة ضوابط الأمان عن المستخدمين عمومًا.

وبحلول 2024، كانت قدرات نماذج OpenAI في علم الأحياء تتقدم بسرعة، وأظهرت الاختبارات الداخلية أن النماذج أصبحت أكثر قدرة على مساعدة المستخدمين في التعامل مع مشكلات بيولوجية معقدة.

ومع استعداد الشركة لإطلاق GPT-5 في صيف 2025، خلص موظفون إلى أن النموذج وصل إلى مستوى مرتفع من المخاطر وفق تصنيفات OpenAI الداخلية، بعد أن أظهرت الاختبارات إمكانية مساعدة مستخدم محدود الخبرة في التعامل مع معلومات قد ترتبط بمخاطر بيولوجية.

ودفع ذلك فرق الأمان إلى تطوير أنظمة لرصد الاستخدامات المشبوهة.

وأكدت OpenAI إنها تراقب استفسارات المستخدمين الموجهة إلى نماذجها المتقدمة منذ أبريل 2025، مع مواصلة تطوير أدوات الكشف والإنفاذ.

وخصصت الشركة مكافأة تصل إلى 50 ألف دولار لمن يستطيع إثبات تجاوز أنواع محددة من إجراءات الحماية المتعلقة بالمخاطر البيولوجية.

وتضع التطورات شركات الذكاء الاصطناعي أمام معادلة شديدة التعقيد؛ ففرض قيود واسعة قد يقلص فائدة النماذج للباحثين والأطباء والمؤسسات الصحية، في حين قد يؤدي التساهل إلى توفير معرفة متقدمة لمستخدمين يسعون إلى إلحاق الضرر بالآخرين.

ومع استمرار تحسن النماذج في العلوم والأحياء والهندسة، لم يعد السؤال مقتصرًا على مدى ذكائها، بل أصبح مرتبطًا أيضًا بقدرة الشركات والحكومات على منع تحول المعرفة التي توفرها إلى أداة لتنفيذ هجمات خطِرة.

ويشير هذا التحدي إلى أن المرحلة المقبلة من سباق الذكاء الاصطناعي لن تدور حول تطوير أكثر النماذج قدرةً فحسب، بل حول بناء أنظمة أمان وتشريعات تستطيع مواكبة تلك القدرات دون تعطيل الاستخدامات العلمية المشروعة.