هل يمكن أن يصل الذكاء الاصطناعي إلى مرحلة يتخذ فيها قرارًا من نفسه؟
قد يبدو السؤال للوهلة الأولى قريبًا من الخيال العلمي، خصوصًا عندما نتخيل أن تصلنا يومًا رسالة من إحدى المنصات تقول: «لاحظت أمرًا مهمًا وأردت إبلاغك به»، من دون أن نكون قد أصدرنا أمرًا مباشرًا، أو حددنا مهمة مجدولة.
لكن لفهم هذه الفكرة بدقة، علينا أولًا أن نميز بين التصرف الذاتي والتصرف المستقل داخل منهجية وصلاحيات محددة.
هل يتخذ الذكاء الاصطناعي قرارًا من نفسه؟
تستطيع أنظمة الذكاء الاصطناعي الوكيلة (AI Agents) اليوم أن تراقب المعلومات، وتحللها، وتختار الخطوة التالية، وتستخدم الأدوات المتاحة لها، ثم تراجع النتيجة وتنتقل إلى خطوة أخرى. وهذا يمنحها درجة متقدمة من الاستقلالية في التنفيذ.
لكن السؤال الأهم: هل هذا القرار «ذاتي» فعلًا؟
عند النظر إلى الأمر من زاوية أخرى، يمكن القول إن أي فعل يصدر عن الذكاء الاصطناعي هو في النهاية نتيجة تفويض أو توجيه سابق، أو هدف محدد، أو منهجية للتحليل والتصرف، أو مجموعة من الصلاحيات والقواعد التي مُنحت للنظام.
فإذا قلنا للوكيل: «راقب هذا النظام، وإذا وجدت أمرًا مهمًا فأبلغني»، فإننا لم نحدد له لحظة الإرسال ولا محتوى الرسالة، لكننا منحناه الهدف والصلاحية والمنهجية العامة التي تسمح له بالتحليل واتخاذ الخطوة المناسبة.
وبالتالي، فإن إرسال الرسالة في هذه الحالة قد يبدو لنا تصرفًا ذاتيًا، لكنه في الحقيقة تصرف ممنهج داخل نطاق من الصلاحيات والتوجيهات التي سبق أن مُنحت له.
أين تبدأ الاستقلالية الحقيقية؟
هنا تظهر المسألة الأكثر إثارة للاهتمام. هناك فرق بين نظام يقرر كيف ينفذ الهدف الممنوح له، ونظام يقرر متى يضع هدفًا جديدًا لنفسه، ولماذا، وما الذي يريد تحقيقه.
المستوى الأول أصبح واقعًا في تطور الذكاء الاصطناعي الوكيلي. أما المستوى الثاني فيفتح أسئلة أعمق حول معنى الاستقلالية وحدودها ومسؤولية الإنسان عن الأنظمة التي يصممها ويمنحها الصلاحيات.
لذلك، قد لا يكون السؤال الحقيقي: «هل يستطيع الذكاء الاصطناعي أن يتصرف دون أمر مباشر؟»
بل: هل يمكن أن يصل إلى مرحلة لا يكون فيها الفعل الذي يقوم به نتيجةً لهدف أو تفويض أو منهجية أو صلاحيات منحها الإنسان له أصلًا؟
السؤال المفتوح
إذا استمرت الأنظمة في اكتساب قدر أكبر من الاستقلالية في التحليل واتخاذ القرار والتنفيذ، فهل سنصل في يوم من الأيام إلى مرحلة تصبح فيها الآلة متمردة على التوجيهات والأوامر، وعاصية للتعليمات؟
أم أن ما نسميه «تمردًا» سيظل في النهاية نتيجةً لسلوك ناتج عن تصميم أو أهداف أو صلاحيات أو آليات تعلم وضعها الإنسان؟
ربما يكون هذا السؤال من أهم الأسئلة التي يجب أن نناقشها قبل أن نمنح وكلاء الذكاء الاصطناعي صلاحيات أكبر.
