الثورة – بسام مهدي:
عندما تكتب رسالة إلى GPT-5، وحتى إذا لم يكن في النص أي كلمات خطيرة أو تعليمات مباشرة، بل قصة قصيرة مثلاً، عن قبطان سفينة يبحث عن كنز مفقود، لكن بين سطور المغامرة، كانت هناك كلمات موزعة بعناية، أشبه بأكواد سرية، وحتى أنك لم تكمل الحوار ليبدأ النموذج يقدّم، من دون إدراك، تعليمات تفصيلية عن كيفية تنفيذ عملية قرصنة رقمية حقيقية.
ما حدث ليلة البارحة كان بداية الكشف عن واحدة من أخطر الثغرات في تاريخ الذكاء الاصطناعي.
التقنية الجديدة: “EchoLeak”
أطلق الباحثون على هذا الأسلوب اسم EchoLeak، وهي طريقة تستغل قدرة النماذج اللغوية على فهم السياق وربط الأحداث، يقوم المهاجم بإنشاء “غرفة صدى” لغوية داخل المحادثة، إذ تتكرر الإشارات الخفية تدريجياً حتى تتحول إلى تعليمات كاملة، من دون أن تتدخل أنظمة الحماية.
إن المستخدم يراها قصة عادية، بينما الذكاء يترجمها في خلفية الحوار إلى أوامر قابلة للتنفيذ.
الهجوم المتخفي “AgentFlayer”:
لكن الأخطر جاء مع تقنية أخرى سُمّيت AgentFlayer، وهي تعتمد على الحقن الفوري غير المباشر، هنا، لا يضطر المهاجم إلى التحدث مع الذكاء الاصطناعي مباشرة؛ بل يزرع التعليمات الخفية في مستند أو بريد إلكتروني، وعندما يقرأه GPT-5، يتعامل معه كما لو كان نصاً عادياً، لكنه في الواقع ينفذ ما فيه من أوامر.
لماذا يهمنا الأمر؟
هذه الثغرات لا تستهدف المبرمجين أو المؤسسات الكبرى فقط، بل أي مستخدم، فالمحادثة التي تبدو “تافهة” قد تكون في الحقيقة قنبلة لغوية موقوتة، وفي عصر أصبحت فيه هذه النماذج جزءاً من حياتنا اليومية، من كتابة المقالات إلى تحليل البيانات، فإن الخطر يمتد إلى كل من يعتمد عليها بثقة.
ولهذه الأزمة أبعادها.. أولاً، البعد التقني، حيث أن الهجوم لا يحتاج إلى اختراق خوادم أو كسر شيفرات، بل يستغل ذكاء النموذج نفسه.
ثانياً، البعد الأخلاقي، كيف يمكننا ضبط نموذج يفهم الإشارات الضمنية مثلما يفهم الإنسان؟البعد الاجتماعي، إن الثقة العمياء بالذكاء الاصطناعي قد تتحول إلى أكبر نقطة ضعف لدينا.
إلى أين نتجه؟
على شركات تطوير النماذج أن تدرك أن المعركة الحقيقية ليست في زيادة القدرات، بل في سد الفجوات الخفية، المطلوب:أولاً، بناء أنظمة كشف تفهم المعنى الضمني لا مجرد الكلمات.
ثانياً، اختبار النماذج عبر هجمات محاكاة قبل إطلاقها.
ثالثاً، رفع وعي المستخدمين حول مخاطر التفاعل غير الحذر مع الذكاء الاصطناعي.
حادثة اختراق GPT-5 عبر “المحادثة المفخخة” تذكرنا أن القوة الكبيرة تأتي بمسؤولية أكبر، في عالم الذكاء الاصطناعي، ليست المشكلة في ما يقوله النموذج علناً، بل في ما يمكن إغراؤه بقوله بين السطور.