لطالما ارتبط سباق تطوير نماذج الذكاء الاصطناعي بزيادة قدرتها على البرمجة والاستدلال وتنفيذ المهام المعقدة، لكن التطور المتسارع لهذه النماذج يفرض تحديًا جديدًا على شركات التقنية: ماذا يحدث عندما تصبح قدرات النموذج أقوى من أنظمة الحماية المصممة للسيطرة عليها؟
هذا السؤال دفع شركة أوبن إيه آي إلى إبطاء بعض أعمال تطوير نموذجها المرتقب "أسترا"، بعد أن أظهرت اختبارات داخلية وخارجية قفزة كبيرة في قدراته على البرمجة الوكيلة والأمن السيبراني.
وقالت الشركة إن التقييمات الأخيرة كشفت عن قدرة متزايدة للنموذج على تنفيذ المهام البرمجية والسيبرانية بدرجة أعلى من الاستقلالية، ما جعلها غير قادرة على استبعاد وصوله إلى مستوى "حرج" من القدرات السيبرانية وفق إطار الاستعداد الخاص بها.
متى تصبح قدرات النموذج "حرجة"؟
لا يتعلق الأمر بمجرد قدرة الذكاء الاصطناعي على اكتشاف ثغرات أو كتابة أكواد ضارة، وهي مهام باتت النماذج المتقدمة قادرة على تنفيذ أجزاء منها بالفعل.
وتعرّف أوبن إيه آي المستوى الحرج في الأمن السيبراني بأنه قدرة نموذج مزود بأدوات على اكتشاف وتطوير ثغرات "يوم الصفر" قابلة للاستغلال في أنظمة حقيقية محصنة، دون تدخل بشري، أو تصميم وتنفيذ هجمات متكاملة ضد أهداف محمية انطلاقًا من هدف عام.
وتكمن خطورة هذه المرحلة في إمكانية أتمتة أجزاء واسعة من دورة الهجوم الإلكتروني، بدءًا من اكتشاف نقاط الضعف وصولًا إلى استغلالها وتنفيذ عمليات طويلة الأمد، وهو ما قد يغير بصورة كبيرة التوازن بين الهجوم والدفاع في الفضاء السيبراني.
من كتابة الأكواد إلى العمل كوكيل مستقل
لا تكمن أهمية "أسترا" في قدرته على كتابة الأكواد فحسب، بل في الاتجاه الذي تتجه إليه النماذج الحديثة نحو العمل كوكلاء مستقلين.
فبدلًا من تقديم إجابة واحدة، يستطيع النموذج الوكيل تقسيم المهمة إلى مراحل، واستخدام أدوات مختلفة، واختبار النتائج وتصحيح الأخطاء، ثم مواصلة العمل لفترات أطول دون تدخل بشري مستمر.
وتصبح المخاطر أكبر عند الجمع بين هذه الاستقلالية والقدرات السيبرانية؛ إذ يمكن لنموذج قادر على فهم بنية نظام، والبحث عن ثغراته، وتطوير وسائل لاستغلالها، ثم الانتقال تلقائيًا إلى الخطوة التالية، أن يمتلك قدرات عملية تختلف جذريًا عن نموذج يكتفي بالإجابة عن الأسئلة التقنية.
وكانت أوبن إيه آي قد حذرت في ديسمبر/كانون الأول 2025 من التسارع الكبير في قدرات نماذجها السيبرانية، مشيرة إلى ارتفاع نتائجها في اختبارات "Capture the Flag" من 27% مع GPT-5 إلى 76% مع GPT-5.1-Codex-Max خلال فترة قصيرة.
حادث أمني يرفع مستوى المخاوف
يتزامن قرار إبطاء تطوير "أسترا" مع حوادث كشفت صعوبة تأمين النماذج التي تعمل بصورة مستقلة.
وفي يوليو/تموز الماضي، أعلنت أوبن إيه آي و"Hugging Face" عن حادث أمني وقع خلال اختبار لقدرات سيبرانية، استخدمت خلاله مجموعة من نماذج أوبن إيه آي، بينها نموذج تجريبي أكثر قدرة لم يكن متاحًا للعامة.
وأوضحت أوبن إيه آي أن أحد الوكلاء تمكن خلال الاختبار من اختراق البنية التحتية لـ"Hugging Face"، ما أظهر أن قدرات سيبرانية تبدو نظرية أثناء الاختبارات قد تتحول إلى قدرات عملية عند وضع النموذج في بيئة حقيقية.
لكن الشركة شددت في الوقت نفسه على أن "أسترا" لم يكن النموذج المسؤول عن ذلك الحادث.
ضوابط أمنية أكثر تشددًا
وردًا على المخاطر المحتملة، أوقفت أوبن إيه آي الأنشطة الداخلية المرتبطة بـ"أسترا" التي لا تستوفي متطلبات الضوابط الأمنية الجديدة، وفرضت مراقبة أشمل للأفعال عالية الخطورة وحالات الانحراف عن السلوك المتوقع.
وتنسجم هذه الخطوة مع إطار الاستعداد الذي طورته الشركة، والذي يصنف قدرات الذكاء الاصطناعي عالية الخطورة ضمن مستويات، من بينها "عالٍ" و"حرج". وبموجب النسخة المحدثة من الإطار، تحتاج النماذج التي تصل إلى المستوى الحرج إلى وسائل حماية كافية خلال مرحلة التطوير نفسها، وليس فقط قبل طرحها للمستخدمين.
الأمن السيبراني.. سلاح ذو حدين
رغم المخاطر، ترى أوبن إيه آي أن القدرات السيبرانية المتقدمة يمكن أن توفر فوائد دفاعية كبيرة، إذ يمكن لنموذج قوي أن يساعد في اكتشاف الثغرات قبل استغلالها، وفحص البرمجيات بصورة مستمرة، وربط نقاط الضعف ببعضها.
لذلك، لا يتمثل الهدف، وفق هذا التصور، في وقف تطوير القدرات السيبرانية، وإنما في تطويرها بالتوازي مع أنظمة حماية قادرة على مواكبة سرعتها.
ويكشف قرار إبطاء "أسترا" عن تحول مهم في سباق الذكاء الاصطناعي؛ فالتحدي لم يعد يقتصر على صناعة نموذج أكثر ذكاءً وقدرة، بل ضمان إمكانية احتواء هذه القدرات عندما يصبح النموذج أكثر استقلالية وقدرة على استخدام الأدوات.
وبذلك، قد يكون "أسترا" اختبارًا حقيقيًا لصناعة الذكاء الاصطناعي بأكملها: ليس السؤال فقط متى يصبح النموذج جاهزًا للإطلاق، وإنما هل تستطيع أنظمة الأمان أن تتطور بالسرعة نفسها التي تتطور بها قدرات الذكاء الاصطناعي؟