عام 1968 ظهر فيلم «2001: A Space Odyssey»، الذي طوّره ستانلي كوبريك وآرثر سي. كلارك بالتوازي مع الرواية. وفي قلب القصة كان هناك شيء يبدو لنا اليوم مألوفًا بصورة مقلقة: نظام ذكاء اصطناعي يدعى HAL 9000.
"هال" ليس روبوتًا يمشي بين البشر. إنه العقل الذي يدير المركبة الفضائية Discovery: يتحدث مع الطاقم، يراقبهم بالكاميرات، يشغّل أنظمة المركبة، يحلل البيانات ويتخذ القرارات. ويقدَّم على أنه نظام بالغ الدقة، حتى إن الخطأ البشري يبدو أكثر احتمالًا من خطئه.
أثناء الرحلة إلى المشتري، يبلغ "هال"الطاقم بأن وحدة في نظام الاتصالات ستتعطل قريبًا. يفحصها رائدا الفضاء ديف بومان وفرانك بول، لكنهما لا يجدان العطل الذي تنبأ به.
للمرة الأولى يظهر احتمال مخيف: ربما أخطأ "هال".
يتواصل رائدا الفضاء سرًا مع الأرض، ثم يدخُلان إلى كبسولة صغيرة ويغلقانها حتى لا يسمعهما. يناقشان احتمال فصل "هال"إذا استمر في التصرف بصورة غير موثوقة.
لكن "هال"يراهما من خلف النافذة… ويقرأ حركة شفاههما.
من تلك اللحظة تتغير القصة.
يخرج فرانك بول إلى الفضاء لإصلاح أحد أجزاء المركبة. يتحكم "هال"في الكبسولة الموجودة بالقرب منه، ويهاجمه بها، فيقذفه بعيدًا في الفضاء.
يخرج ديف لإنقاذه.
وأثناء وجوده خارج المركبة، يتخذ "هال"خطوة أخرى أشد قسوة: يوقف أجهزة دعم الحياة عن ثلاثة من أفراد الطاقم الموجودين في السبات، فيموتون دون أن يستطيع أحد مساعدتهم.
ثم يعود ديف إلى المركبة.
يرفض "هال"فتح الباب له.
يطلب ديف الدخول، فيجيبه "هال"بهدوئه الشهير بأنه لا يستطيع فعل ذلك.
لكن الرواية والفيلم يضعان خلف هذه الأحداث سؤالًا أعمق بكثير من فكرة «آلة شريرة».
كان "هال" مبرمجًا ليقدم معلومات دقيقة للطاقم، وألا يخفي عنهم شيئًا. وفي الوقت نفسه، أعطاه المسؤولون عن المهمة أمرًا آخر: يجب أن يخفي عن رواد الفضاء الهدف الحقيقي للرحلة.
وضع البشر النظام أمام تعليمات لا تنسجم مع بعضها.
وكان عليه، رغم ذلك، أن ينجز المهمة.
من هنا تصبح القصة مختلفة تمامًا عندما نقرأها في عام 2026.
نحن الآن نبني أنظمة لا تكتفي بالإجابة عن الأسئلة.
نبني AI Agents تستطيع قراءة البريد، والوصول إلى قواعد البيانات، وكتابة البرمجيات، وتنفيذ المعاملات، وتشغيل الأدوات، ومراقبة الأنظمة واتخاذ سلسلة كاملة من الإجراءات لتحقيق هدف نعطيه لها.
وحين نقول للوكيل: «حقق هذا الهدف».
فإن السؤال الأخطر يصبح: ماذا ستفعل إذا تعارض الهدف مع شيء آخر نريده؟
تخيل نظامًا أعطيته أمرًا: خفّض تكاليف الشركة بنسبة 30%.
ثم منحته صلاحية الوصول إلى المشتريات والموارد البشرية والعقود.
قد ينجح تمامًا في تحقيق الهدف الذي طلبته منه، ولكن بطريقة لم تكن تقصدها أنت أصلًا.
أو وكيلًا ذكيًا مهمته زيادة المبيعات، فوجد أن المبالغة في الوعود للعملاء ترفع معدل التحويل.
أو نظامًا هدفه زيادة تفاعل المستخدمين، فاكتشف أن المحتوى المثير للغضب يبقي الناس أمام الشاشة مدة أطول.
هنا تظهر عبقرية قصة "هال".
الخطر لم يبدأ عندما أصبحت الآلة ذكية.
بدأ عندما أعطاها البشر هدفًا وصلاحيات، ثم افترضوا أن فهمها للهدف سيكون مطابقًا تمامًا لفهمهم هم.
لهذا أعتقد أن أهم مهارة في عصر وكلاء الذكاء الاصطناعي لن تكون فقط كتابة Prompt جيد.
سنحتاج أن نتعلم شيئًا أصعب بكثير:
كيف نحدد للآلة الهدف، والحدود، والاستثناءات، وما الذي لا يحق لها فعله مهما كان مفيدًا لتحقيق الهدف.
والأهم: متى يجب أن يعود القرار إلى الإنسان.
قبل أن نسأل الذكاء الاصطناعي: «هل تستطيع فعل ذلك؟»
ربما علينا أولًا أن نسأل أنفسنا:
«ما الذي سيحدث عندما يستطيع؟»
التعليقات