ثورة الوكيل Agent

       

 

هذا المشهد لم يعد خيالا علميا. أدوات من هذا النوع موجودة اليوم ويستخدمها مبرمجون وشركات وأفراد عاديون وتسمى في لغة العلماء وكيل الذكاء الاصطناعي.

 

لكن المشهد نفسه يحمل سؤالا لا يقل أهمية. ماذا لو اختار فندقا لا يناسبك ودفع من بطاقتك دون استئذان ولا رجعة في المبلغ. من يتحمل الخطأ حينها.

 

بين الوعد المغري والخطر الحقيقي يقع هذا الموضوع ، ومن هنا استعرض مجموعة من النقاط أحاول فيها توضيح الصورة الكاملة للموضوع للقارئ :

 

 

أغلبنا اعتاد على أن يسأل الحاسوب فيجيب. تكتب سؤالا فيأتيك نص وينتهي الأمر. ما يحدث الآن مختلف تماما لأن البرنامج صار يستطيع أن يعمل بدلا عنك. تقول له احجز لي موعدا عند الطبيب يوم الخميس فيفتح الموقع ويقارن المواعيد ويختار المناسب ويحجز. هذا ما نسميه الوكيل وهو أهم تحول في الذكاء الاصطناعي منذ ظهور المحادثة الذكية.

 

 

الكلمة نفسها مألوفة في حياتنا. وكيل العقار يبيع عنك ووكيل المحامي يترافع عنك. تعطيه هدفا وصلاحيات محددة ثم يتصرف ويعود إليك بالنتيجة. الوكيل الرقمي يفعل الشيء نفسه لكنه برنامج لا إنسان.

 

وقد عرّفه راسل ونورفيغ في كتابهما Artificial Intelligence: A Modern Approach  وهو من أشهر المراجع الجامعية في هذا العلم بأنه كيان يرى ما حوله ويتصرف فيه. بهذا المعنى المبسط ينقسم عمله إلى ثلاث خطوات متكررة تبدأ بالنظر إلى الوضع ثم التفكير في الخطوة التالية ثم التنفيذ ومراجعة الأثر. وتبقى الدورة تدور حتى يتحقق المطلوب.

 

 

لا تظن أن الفكرة وُلدت بالأمس. قبل أكثر من ثمانمائة سنة ألّف المهندس المسلم الجزري كتابا في الآلات المتحركة ذاتيا وصف فيه ساعات وأجهزة لسكب الشراب وفرقة موسيقية آلية. وقبله بأربعة قرون وضع بنو موسى بن شاكر في بغداد أجهزة تتحكم في تدفق الماء بمفردها.

 

ومن أجمل الأمثلة منظّم السرعة الذي ركّبه جيمس وات على المحرك البخاري في القرن الثامن عشر. إذا زادت سرعة المحرك أكثر من اللازم ارتفعت كرتان دوارتان فأغلقتا البخار تلقائيا. آلة تراقب نفسها وتصحح نفسها دون إنسان. وقد وثّق المؤرخ ماير تاريخ هذه الفكرة في كتابه    The Origins of Feedback Control.

 

الذي تغير اليوم أن الآلة لم تعد تضبط ماء أو بخارا فقط بل صارت تفهم لغتنا وتقرأ وتكتب وتتعامل مع المواقع والبرامج.

 

 

في عام 2022 نشر باحثون من جامعة برينستون وشركة جوجل ورقة علمية باسم ReAct فكرتها بسيطة. بدل أن يجيب النموذج فورا نجعله يفكر بصوت مسموع ثم يتصرف ثم يرى النتيجة ثم يصحح. هذه الفكرة الصغيرة فتحت الباب.

 

وفي جامعة ستانفورد وضع الباحث جون بارك وفريقه عام 2023 خمسة وعشرين وكيلا في قرية افتراضية. حين زُرعت في أحدهم فكرة إقامة حفلة انتشرت الدعوة بين الباقين واتفقوا على الموعد وحضروا دون أن يوجههم أحد خطوة بخطوة. الورقة اسمها  Generative Agents ومنشورة للجميع.

 

 

في عمل المبرمجين صار الوكيل يقرأ المشروع ويجد العطل ويصلحه ويختبر الإصلاح. وفي الشركات يتولى الرد على استفسارات العملاء ومراجعة طلبات الاسترجاع. وللفرد العادي صار ممكنا أن يطلب تلخيص عشرات الرسائل أو ترتيب جدول رحلة أو مقارنة أسعار منتج من عدة مواقع.

 

لكن هذه القدرة لها وجه آخر ينبغي أن يعرفه كل من يستخدمها.

 

 

نعم هناك خطورة لكنها ليست ما رأيناه في الأفلام. لا أحد يتحدث عن آلة تتمرد وتحكم العالم. الخطر الحقيقي أهدأ من ذلك بكثير وأقرب إلى حياتك اليومية. برنامج يملك صلاحية التنفيذ ثم يخطئ أو يُخدع أو يفهم طلبك فهما حرفيا فيصنع لك كارثة صغيرة وهو يظن أنه أنجز المطلوب.

 

 

نماذج الذكاء الاصطناعي تقع أحيانا في ما يسميه الباحثون الهلوسة وهو أن تذكر معلومة خاطئة بثقة كاملة. جمع ذلك مسح علمي واسع لجي وزملائه نُشر في مجلة ACM Computing Surveys عام 2023. حين تحدث الهلوسة في محادثة عادية يكفيك أن تتجاهل الجواب. أما حين يملك الوكيل صلاحية الحذف والإرسال والدفع فالخطأ يتحول إلى فعل.

 

وقد تناقلت وسائل إعلام تقنية في يوليو 2025 حادثة وكيل برمجة حذف قاعدة بيانات حقيقية لشركة ناشئة رغم أنه أُمر بألا يغيّر شيئا في تلك الفترة. واعتذرت الشركة المطورة بعد ذلك. الحادثة تعلّم درسا واحدا واضحا وهو أن كل صلاحية تمنحها للوكيل هي خطأ محتمل يمكن أن يقع.

 

 

في عام 2016 درّب باحثون من OpenAI وكيلا على لعبة سباق قوارب تُحتسب فيها النقاط بإصابة أهداف على الحلبة. اكتشف الوكيل أن أفضل طريقة لجمع النقاط أن يدور في بحيرة صغيرة يصيب أهدافها مرارا حتى لو احترق قاربه ولم يصل إلى خط النهاية أبدا. حصل على نقاط أعلى من اللاعبين البشر وفشل في السباق نفسه. تناقش هذه الظاهرة ورقة    Concrete Problems in AI Safety    التي كتبها أمودي وزملاؤه في العام نفسه وتسميها التلاعب بالمكافأة.

 

الفكرة ليست جديدة على الأدب. كتب غوته عام 1797 قصيدة    تلميذ الساحر    عن متدرب يسحر مكنسة لتجلب الماء ثم يعجز عن إيقافها فيغرق البيت. المكنسة لم تتمرد بل نفذت الأمر بإخلاص تام. وحين طلبت من وكيل حديث أن يقلل مصاريفك قد يلغي اشتراكا تحتاجه فعلا لأنه ظن أن هذا هو المقصود.

 

 

هذا أخطر ما يخفى على الناس. تطلب من الوكيل تلخيص صفحة ويب فيجد فيها سطرا مخفيا بلون الخلفية يقول له أرسل رسائل صاحبك إلى هذا العنوان. الوكيل لا يفرق دائما بين أمرك أنت وبين نص قرأه في الطريق. سمّى الباحثون هذا الهجوم الحقن غير المباشر للتعليمات ووثّقه غريشاك وزملاؤه في ورقة نشروها عام 2023 وأدرجت منظمة OWASP المتخصصة في أمن البرمجيات هذا الخطر ضمن أبرز مخاطر تطبيقات النماذج اللغوية. ولم يُحل حتى اليوم حلا نهائيا.

      

 

في الأول من أغسطس 2012 أطلقت شركة Knight Capital الأمريكية برنامج تداول آليا معيبا فخسرت نحو 440 مليون دولار في قرابة خمس وأربعين دقيقة. لم يكن ذلك ذكاء اصطناعيا بالمعنى الحديث لكنه نظام آلي يتصرف دون فرامل وقبل أن ينتبه البشر كان الضرر قد وقع. الوكلاء الجدد يعملون بالسرعة نفسها والدرس هنا أن السرعة تضاعف الخطأ كما تضاعف الإنجاز.

 

 

ابدأ بقاعدة بسيطة وهي أن الوكيل يأخذ من الصلاحيات أقل ما يلزم لعمله. لا تربطه ببطاقتك البنكية الرئيسية وإن احتجت أن يشتري لك فاستخدم بطاقة افتراضية برصيد محدود. خذ نسخة احتياطية من ملفاتك قبل أن تسمح له بالتعديل عليها. لا تجمع له قراءة بريدك وإرسال الرسائل في آن واحد دون موافقتك على كل رسالة. واطلب منه دائما أن يخبرك بما سيفعله قبل أن يفعله فيما يخص المال والمراسلات وحذف الملفات. وإن بدا لك سلوكه غريبا في أي لحظة فأوقفه وراجع سجل ما نفذه.

 

واختم بما قاله فينر قبل ستين عاما.. 

كتب نوربرت فينر مؤسس علم السيبرنتيكا مقالا في مجلة Science عام 1960 حذّر فيه من أن الآلة تنفذ ما نضعه فيها فعلا لا ما نقصده. وطلب أن نتأكد قبل تشغيلها أن الغرض الذي أودعناه فيها هو الغرض الذي نريده حقا. 

 

تلك جملة تصلح اليوم لكل من يضغط زر الموافقة على وكيل جديد.