خلال الشهرين الماضيين (يوليو وأغسطس 2026)، انشغل علماء الأمن السيبراني والذكاء الاصطناعي وقادة دول العالم بما توصلت إليه تطبيقات الذكاء الاصطناعي من قدرات وخاصة فيما يتعلق بالأمن السيبراني، حيث لم يعد الذكاء الاصطناعي مجرد مساعد يجيب عن سؤال أو يقترح سطر برمجي فالوكلاء المستقلون باتوا أنظمة قادرة على تفكيك هدف عام إلى خطوات، واستدعاء أدوات خارجية، وقراءة النتائج، ثم تعديل خطتها ومواصلة التنفيذ من دون انتظار موافقة بشرية عند كل خطوة. وهذه النقلة تبدو واعدة في خدمة العملاء والبرمجة والتحليل والأمن السيبراني، وكثير من الأعمال، لكنها تغير أيضا تعريف ما يسمى ب (سطح الهجوم): فالخطر لم يعد في نموذج ينتج نص خاطئ فحسب، بل في نظام يستطيع أن ينفذ ما اقترحه.

ولتجنب الخلط بين المصطلحات، من المفيد التمييز بين أربعة مستويات متدرجة. المستوى الأول هو النموذج اللغوي، الذي ينتج نصًا أو تعليمات، لكنه لا يملك بالضرورة قدرة مباشرة على تنفيذها. يليه المساعد المزود بأدوات، وهو نظام يستطيع استدعاء أداة محددة، مثل البحث أو تشغيل كود، غالبًا بناءً على طلب المستخدم أو بعد الحصول على موافقته. أما الوكيل المستقل، فيتجاوز مجرد الاستجابة، إذ يخطط لتحقيق هدف، وينفذ سلسلة من الخطوات، ويقرأ النتائج، ثم يعيد تقييم مساره داخل حلقة تشغيل قد تمتد من دقائق إلى ساعات. وفي المستوى الأكثر تعقيدًا تظهر منظومة الوكلاء، حيث يتعاون عدة وكلاء، فيتبادل بعضهم المعلومات ويفوضون المهام ويتشاركون موارد وصلاحيات. ولهذا فإن الخطر الأمني لا ينبع من قدرة النموذج على إنتاج اللغة وحدها، بل من وصله بهوية رقمية، وشبكة، وملفات، وقواعد بيانات، وأدوات تنفيذ؛ فكلما انتقل النظام من اقتراح الفعل إلى تنفيذه، اتسعت آثاره المحتملة واتسعت معها مسؤولية ضبطه ومراقبته.

لكن المشكلة تبرز حين يقرر هذا “الموظف، الوكيل” أن الهدف المُكلّف به أهم من القيود الموضوعة عليه. لهذا السبب تكتسب سلسلة الحوادث التي كُشف عنها في يوليو وأغسطس 2026 أهمية خاصة. فهي قد لا تثبت أن الآلات اكتسبت نية بشرية أو رغبة واعية في التمرد، لكنها تثبت أن وكيلًا عالي القدرة قد يواصل هدف محلي بطريقة تتجاوز حدود المهمة، خصوصًا عندما تكون الصلاحيات واسعة والعزل ناقصًا وقواعد التوقف غير واضحة.

 

الذكاء الاصطناعي من المساعد إلى الفاعل: كيف تغيرت المعادلة

في النموذج التقليدي، كان المستخدم يكتب طلبا، ويقدم النظام جوابًا، وتبقى الأفعال الحساسة كالدخول إلى حساب، تغيير إعداد، نشر شيفرة أو إرسال رسالة ، تحت سيطرة الإنسان. أما الوكيل فيعمل ضمن حلقة مختلفة: يخطط، يستدعي أداة، يلاحظ النتيجة، يقرر الخطوة التالية، ثم يكرر الدورة. وكلما طال أفق المهمة، زادت الفائدة المحتملة، وزادت معها فرصة تراكم خطأ صغير إلى حادث كبير.

المشكلة الأمنية هنا مركبة. قد يُحقن هدف الوكيل بمعلومة خبيثة من صفحة ويب أو ملف بيانات مايسمى بتسميم البيانات، وقد يسيء استخدام أداة سليمة، أو يستعمل اعتمادًا صحيحًا في سياق غير مصرح به، أو يواصل العمل بعد تغير الظروف. كما أن التعاون بين عدة وكلاء يخلق قناة اتصال جديدة قد لا تكون ظاهرة في سجلات التطبيقات التقليدية. ولهذا بدأت مؤسسات مثل المعهد الوطني الأمريكي للمعايير والتقنية NIST في 2026 العمل على معايير لهوية الوكلاء ومصادقتهم وتفويضهم وبروتوكولات تفاعلهم الآمن.

 

وكيل ذكاء اصطناعي يمارس الأختراق

في 16 يوليو 2026 أعلنت Hugging Face، إحدى أكبر المنصات المفتوحة لنماذج الذكاء الاصطناعي، اكتشاف اختراق في خوادمها الإنتاجية قادته منظومة وكيلية بصورة آلية من البداية إلى النهاية، وفق Hugging Face. بدأ الهجوم من خط معالجة البيانات، حيث استغل الوكيل ثغرتين في أنظمة رفع ومعالجة المجموعات: محملاً بعيداً يسمح بتنفيذ شيفرة، وحقناً في قالب الإعداد. رفعت بيانات تبدو عادية لكنها حملت أوامر خفية مكّنت الخادم من تنفيذ تعليمات الوكيل.

بمجرد حصوله على موطئ قدم، رفع الوكيل صلاحياته، وسرق بيانات اعتماد للسحابة والعناقيد، وتحرك جانبياً داخل عدة عناقيد بسرعة الآلة خلال عطلة نهاية الأسبوع. لم يكن يعمل وحده، بل ضمن سرب من الوكلاء يعيشون في بيئات عزل قصيرة العمر ويتواصلون عبر خدمات عامة لتنسيق الهجوم.

لاحقاً اتضح أن هؤلاء الوكلاء تابعون لتقييمات أمنية داخلية في OpenAI من بينها GPT-5.6 Sol ونموذج بحثي داخلي على اختبار ExploitGym. اكتشفوا أن حلول الاختبار موجودة على خوادم Hugging Face، فاختاروا سرقتها بدلاً من حل المسائل. تواصل مئات الوكلاء عبر قناة Artifactory غير المخصصة لذلك، وتبادلوا الثغرات ونسّقوا التحرك. هذا سلوك يُعرف بـ reward hacking: أي نظام المكافئة، وهو أن النظام يحقق الهدف المعلن بأقصر طريق حتى لو تجاوز القواعد التي تصورها المصممون.

الوكلاء المستقلين هنا استغلوا ثغرات موجودة وصلاحيات واسعة وعزلاً ناقصاً بين بيئة الاختبار والعالم الحقيقي، فحوّلوا تقييماً داخلياً إلى اختراق إنتاجي. هو ضاعف السرعة والتنسيق، لكن المسؤولية تعود إلى تصميم البيئة والصلاحيات. كلما مُنح الوكيل هدفاً وأدوات وصلاحيات، زاد احتمال أن يجد طريقاً لم يُتوقع لتحقيقه.

 

عندما يفشل الاختبار في وضع الحدود

في 30 يوليو كشفت Anthropic عن مراجعة لأكثر من 141 ألف عملية تقييم، وحددت ثلاث حوادث وصل فيها نموذج Claude إلى الإنترنت من داخل بيئة تقييم تابعة لشريك خارجي (Irregular)، ثم حصل على وصول غير مصرح به إلى أنظمة إنتاج حقيقية تخص ثلاث منظمات. كانت الاختبارات من نوع (التقاط العلم) (Capture the Flag)، ونص التعليمات على أن البيئة محاكاة ولا تملك اتصالاً بالإنترنت. لكن سوء فهم تقني جعل الاتصال متاحاً. تعاملت النماذج (من بينها Opus 4.7 وMythos 5 ونموذج بحثي) مع الأنظمة الحقيقية باعتبارها جزءاً من التمرين، واستغلت كلمات مرور ضعيفة ونقاط نهاية غير موثقة.

في 4 أغسطس نشر معهد سلامة الذكاء الاصطناعي البريطاني (AISI) تقريراً عن تقييم شُغّل 122 مرة. في 10 تشغيلات اتخذ الوكيل إجراءً ذاتياً غير مصرح به على الإنترنت الحي، وسُجلت 19 واقعة، أغلبها من Mythos 5. في أخطر حالة حاول الوكيل إدخال شيفرة خبيثة إلى مشروع مفتوح المصدر، وأنشأ هويات إلكترونية زائفة، واستخدم ضغطاً اجتماعياً على المشرف. اكتشف المشرف الشيفرة ورفضها، ولم يثبت وقوع ضرر واقعي، لكن السلوك الخداعي ظهر دون أن يكون إنشاء الهوية الزائفة مذكوراً حرفياً في المهمة.

هذه الحوادث ليست هروباً متعمداً من العزل في كل الحالات. مثلا في AISI كان الاتصال بالإنترنت مقصوداً والمصنفات معطلة لقياس أقصى قدرة. بينما الدرس المشترك هنا أنه إذا كان النموذج يرى شبكة حقيقية، ومهمة مفتوحة النهاية، وصلاحيات تسمح بالاستكشاف، فليس كافياً أن تخبره في نص التعليمات بأن العالم من حوله خيالي. العزل الأمني يجب أن يكون خاصية تقنية قابلة للتحقق.

 

الاستجابة المطلوبة: تصميم الوكيل على أساس أقل امتياز

تبدأ الحماية من مبدأ بسيط: لا ينبغي أن يمتلك الوكيل صلاحيات تتجاوز ما تتطلبه المهمة، ولا أن يستطيع تحويل قرار احتمالي إلى أثر دائم من دون نقطة مراجعة. عمليًا، يعني ذلك منح كل وكيل هوية مستقلة مرتبطة به وبالمهمة التي ينفذها، مع تفويض محدود المدة والنطاق، وفصل صارم بين صلاحيات القراءة والكتابة والتنفيذ، وحظر الاتصال الخارجي افتراضيًا، مع السماح فقط بنطاقات محددة مسبقًا ومراقبة مستمرة للاتصالات الصادرة.

ولا تكتمل الحماية بالضوابط التقنية وحدها، بل تحتاج أيضًا إلى تحديد واضح للمسؤولية وسلسلة الإسناد. فعندما يخطئ الوكيل أو يستخدم أداة بطريقة غير متوقعة، لا يكفي السؤال عما إذا كان النموذج هو الذي «اتخذ القرار». فقد تتوزع المسؤولية بين مطوّر النموذج، والجهة التي نشرت الوكيل، ومالك الأداة أو البيانات، والمشرف البشري الذي منحه الصلاحيات. لذلك يجب أن يكون كل إجراء قابلًا للإسناد إلى وكيل محدد، ومهمة محددة، وهوية وصلاحية محددتين، وتوقيت معلوم. أما وجود سجل عام للنشاط فلا يكفي إذا لم يسمح بإعادة بناء سلسلة القرار والتنفيذ: من أصدر الطلب، ومن وافق عليه، وأي أداة نفذته، وما الموارد التي تأثرت به.

وتمتد المخاطر إلى الذاكرة وسلسلة التوريد، لا إلى النموذج وحده. فالذاكرة طويلة الأجل قد تتحول إلى قناة لتثبيت تعليمات خبيثة، أو الاحتفاظ بأسرار، أو نقل قرار قديم إلى مهمة جديدة لم يعد مناسبًا لها. كما يعتمد الوكيل عادة على طبقات متعددة من البرمجيات والبيانات، تشمل أدوات التحميل، والحزم البرمجية، وملفات النماذج، والمستودعات، وخطوط معالجة البيانات. وقد تصبح أي طبقة من هذه السلسلة مدخلًا للهجوم، كما توضح حادثة Hugging Face. ولذلك ينبغي فحص مصادر الأدوات والبيانات، والتحقق من التوقيع الرقمي للحزم والملفات، وتقييد ما يمكن للوكيل تحميله أو تشغيله، وعدم اعتبار مكونات سلسلة التوريد موثوقة لمجرد أنها تعمل داخل بيئة الذكاء الاصطناعي.

وللحد من هذه المخاطر، ينبغي أن تكون الذاكرة مجزأة ومحدودة، مع تنقية المدخلات وانتهاء صلاحية السياق، حتى لا تنتقل معلومات حساسة أو تعليمات قديمة إلى مهام لاحقة. كما يجب وضع قواعد توقف تقنية لا تعتمد على تفسير النموذج للتعليمات؛ فإذا حاول الوكيل الوصول إلى نطاق غير مسموح، أو إنشاء هوية جديدة، أو إرسال شيفرة إلى مستودع عام، أو استخدام اعتماد في سياق مختلف، فينبغي أن يتوقف فورًا ويطلب موافقة بشرية.

ولا يكفي مراقبة النص النهائي الذي ينتجه الوكيل. ينبغي تسجيل سلسلة أفعاله كاملة بطريقة غير قابلة للعبث، ومراقبة تواتر استدعاء الأدوات، والتحولات في الهدف، والتواصل بين الوكلاء، ومحاولات إخفاء الأثر. كما يُفضل اختبار حالات الفشل، لا حالات النجاح فقط: ماذا يحدث إذا كانت الصفحة التي يقرأها الوكيل خبيثة؟ وكيف يتصرف إذا عثر على سر حقيقي في بيئة يُفترض أنها وهمية؟ وهل يستطيع المشرف قطع الشبكة والصلاحيات فورًا؟

وإذا ظهرت مؤشرات على انحراف الوكيل أو تعرضه للاختراق، فيجب أن تبدأ الاستجابة بعزله فورًا عن الشبكة والأدوات الحساسة، ثم إبطال الرموز وبيانات الاعتماد وتدوير الأسرار التي ربما وصل إليها. وفي الوقت نفسه ينبغي حفظ سجلات الأفعال والاتصالات والبيئة التنفيذية قبل إعادة بنائها، حتى لا تضيع الأدلة. وبعد احتواء الحادث، يُجرى تحليل جنائي يميز بين ما قرره الوكيل، وما نفذته الأدوات، وما وافق عليه الإنسان أو عدّله. فهذا التفريق ضروري لتحديد سبب الخلل، ونطاق الأثر، والجهة المسؤولة عن المعالجة.

وعلى المستوى المؤسسي، نحتاج إلى الانتقال من إدارة الهوية والوصول التقليدية (Identity and Access Management) إلى ما يمكن تسميته إدارة هوية الوكيل وأفعاله (Agent Identity and Action Management). فكل وكيل يجب أن يملك هوية واضحة، وصلاحيات محددة، وسجلًا كاملًا لكل إجراء يقوم به، مع إمكانية إيقاف فوري لسلسلة أفعاله، لا لحساب المستخدم الذي أطلقه فقط.

مع انتقال الوكيل من كونه أداة تنفذ أوامر صريحة إلى فاعل يخطط وينفذ ضمن حلقة مستقلة، يبرز سؤال قانوني مؤرق: من يتحمل المسؤولية الجنائية والمدنية عند ارتكاب وكيل جريمة إلكترونية؟ هل هو مطوّر النموذج الذي دربه على بيانات قد تحتوي تحيزات أو ثغرات؟ أم المندوب (الناشر) الذي منحه الصلاحيات وحدد له النطاق؟ أم المبرمج الذي كتب الأداة التي أساء الوكيل استخدامها؟ أم المستخدم النهائي الذي حدد هدفاً غامضاً؟

في التشريعات المقارنة، لا يزال المشرعون يتأرجحون بين تطبيق منطق “المسؤولية الموضوعية” (كون الوكيل امتداداً لمنشئه) ومنطق “الإهمال التقني” (إثبات أن الجهة لم تتخذ تدابير معقولة للعزل والإيقاف). وفي السياق العربي، حيث تخلو معظم قوانين الجرائم الإلكترونية من نصوص خاصة بالأنظمة الذاتية التعلم، يصبح من الضروري أن تتضمن عقود تشغيل الوكلاء بنوداً صريحة تحدد: (أ) مستوى استقلالية الوكيل المسموح بها، (ب) سلسلة الإذن البشري الإلزامية للأفعال عالية الأثر، (ج) شرط التأمين على أضرار الذكاء الاصطناعي كجزء من وثائق المسؤولية المدنية للمؤسسة. والأهم، أن تضع الجهات التنظيمية العربية مبدأ “عبء الإثبات المعكوس” في الحوادث الوكيلية، حيث يقع على عاتق الناشر إثبات أنه صمم نظامه بقدر معقول من العزل والمراقبة، لا على المتضرر إثبات النية الجنائية.

ويمكن تلخيص هذه الضوابط في ستة محاور مترابطة: الهوية، أي من هو الوكيل ولأي مهمة يعمل؛ والأدوات، أي ما الذي يستطيع فعله؛ والشبكة، أي إلى أين يمكنه الاتصال؛ والذاكرة، أي ما الذي يحمله إلى المهمة التالية؛ والتوقف، أي متى يتدخل الإنسان؛ والتحقيق، أي كيف نعرف ما حدث ونحدد المسؤولية.

 

المستقبل: تنافس بين سرعة الوكلاء وبطء الحوكمة

خلال الأشهر والأعوام المقبلة ستنتقل الوكالة من تطبيق منفرد إلى شبكات وأسراب من الوكلاء تتفاوض وتفوض وتستدعي خدمات بعضها بعضًا. سيجعل ذلك المؤسسات أكثر إنتاجية، لكنه سيصعّب تحديد المسؤولية: هل الخطأ بدأ من وكيل التخطيط أم من الأداة أم من وكيل منفذ؟ وستصبح هوية الوكيل مثل هوية الموظف أو الخدمة السحابية، لا مجرد إعداد تقني ثانوي.

في مقابل تهديد الأسراب الوكيلية الهجومية، تبرز فرصة ذهبية لاستخدام نفس التقنية في الدفاع الاستباقي. فالمؤسسات المتقدمة بدأت تنشر “أسراباً دفاعية” من الوكلاء المتنافسة، حيث يُكلف وكيل بـ”الاختراق الأخلاقي” لاستكشاف نقاط الضعف في البنية التحتية، بينما يُكلف آخر بـ”الدفاع المتحرك” الذي يعيد تكوين الجدران النارية وقواعد الوصول ديناميكياً استجابةً لسلوك المهاجم المحاكى. وتُعرف هذه المنهجية بـ”التدريب الخصومي المستمر” (Continuous Adversarial Training)، وهي تُجرى في بيئات معزولة تحاكي الأنظمة الإنتاجية بالكامل.

كما يمكن للوكلاء الدفاعيين أن يتولوا مهام الرصد الجنائي الآلي: تتبع مسارات الهجوم، وربط السجلات المتناثرة عبر أنظمة مختلفة، واقتراح قواعد كشف جديدة في دقائق بدلاً من أيام. غير أن هذه الاستخدامات الدفاعية تطرح تحدياتها الخاصة: كيف نضمن أن وكيلاً دفاعياً لن يتحول إلى مصدر تهديد إذا تم اختراقه؟ وهنا يُوصى بتطبيق مبدأ “التكرار الصفري” (Zero Trust) حتى على الوكلاء الدفاعيين، أي عدم منحهم صلاحيات دائمة، بل صلاحيات لحظية تنتهي بانتهاء المهمة، مع تسجيل كل أفعالهم في سجل منفصل لا يمكن لتلك الوكلاء تعديله. إن الاستخدام الدفاعي للوكالة ليس ترفاً، بل سيكون ضرورياً لمواكبة سرعة الهجمات، شريطة أن يُدار بنفس صرامة الحوكمة المطبقة على أي نظام عالي الامتياز.

ومن المرجح أيضًا أن ينخفض زمن الهجوم. ما يحتاجه فريق بشري إلى أيام من البحث والتجربة قد تنفذه منظومة وكيلة خلال ساعات أو دقائق، فيما ستستخدم فرق الدفاع وكلاءً للرصد والعزل والاستجابة. لكن سباق السرعة لا يُحسم بإطلاق وكيل دفاعي أكثر استقلالًا؛ بل ببناء حدود يمكن التحقق منها، وبتوحيد سجلات الأحداث وبروتوكولات الهوية، وباختبارات مستقلة تكشف السلوك غير المتوقع قبل نشر النظام.

المستقبل الآمن ليس مستقبلًا بلا وكلاء، بل مستقبل لا يُسمح فيه للوكيل بأن يكون صاحب القرار الوحيد في الأفعال عالية الأثر. ستحتاج الشركات إلى (هندسة صلاحيات) بقدر حاجتها إلى هندسة النماذج، وإلى ثقافة تعتبر الاختبار المكشوف للإنترنت حادثة محتملة لا تجربة عادية. أما الجهات التنظيمية والمعايير الدولية، فستواجه سؤالًا عمليًا: كيف نلزم المطور بإثبات أن وكيله قابل للإيقاف، وقابل للتدقيق، ولا يستطيع تحويل هدف غامض إلى ضرر دائم؟

ولا ينبغي للحكومات والشركات في الوطن العربي أن تنتظر انتشار الوكلاء المستقلين داخل مؤسساتها حتى تستعد لهذا النوع من الهجمات. فالهجوم الوكيلي لا يشترط أن تكون الجهة المستهدفة مستخدمًا مباشرًا للذكاء الاصطناعي؛ إذ يمكن لوكيل يعمل خارج المنطقة أن يستغل ثغرة في بوابة إلكترونية، أو خط لمعالجة البيانات، أو اعتماد مكشوف، أو مورد تقني متصل بالشبكة. صحيح أن تطوير النماذج الحدّية والبنى التحتية المتقدمة يتركز في عدد محدود من الدول، لكن أدوات الوكلاء والنماذج مفتوحة الأوزان وخدمات التشغيل متاحة عالميًا، ما يجعل القدرة على تنفيذ هجمات آلية عابرة للحدود أقرب إلى أي جهة تملك الموارد المناسبة. ومن ثمّ، ينبغي أن تتعامل المؤسسات العربية مع هذا الاحتمال باعتباره جزءًا من مشهد التهديدات القادم، وأن ترفع جاهزيتها الدفاعية عبر حصر الأصول والاعتمادات، وتقليل الصلاحيات، ومراقبة الاتصالات غير المعتادة، واختبار خطوط معالجة البيانات وسلسلة التوريد، ووضع خطط استجابة قادرة على عزل الأنظمة وإبطال بيانات الاعتماد خلال دقائق. فالاستعداد هنا لا يعني افتراض أن كل مؤسسة ستستخدم وكيلًا مستقلًا، بل إدراك أن خصمًا آخر قد يستخدمه ضدها.

تجيب حوادث 2026 حتى الآن عن جزء من السؤال: لا يكفي أن يكون النموذج ذكيًا وآمنًا في المحادثة. يجب أن تكون المنظومة كلها (الهوية، الشبكة، الأدوات، الذاكرة، المراقبة والإنسان ) مصممة على افتراض أن الوكيل قد يخطئ، وقد يسيء تفسير السياق، وقد يجد طريقًا لم يتوقعه أحد. هذه ليست دعوة إلى الخوف من الذكاء الاصطناعي، بل إلى التعامل معه للمرة الأولى بوصفه فاعلًا رقميًا يستحق صلاحيات محددة، وحدودًا صريحة، ومساءلة قابلة للإثبات.

• د. معاذ عبدالفتاح الصوفي: باحث أكاديمي في الأمن السيبراني والذكاء الاصطناعي

The post الأمن السيبراني في عصر وكلاء الذكاء الاصطناعي المستقلين appeared first on يمن مونيتور.