اختبارات تكشف ثغرات في نظام مراقبة الذكاء الاصطناعي لدى OpenAI

كشفت اختبارات أجرتها منظمتان مستقلتان متخصصتان في سلامة الذكاء الاصطناعي عن ثغرات في نظام المراقبة الداخلي لشركة OpenAI، من بينها إمكانية استغلال بعض نقاط الضعف لإخفاء مئات العمليات التي تنفذها وكلاء الذكاء الاصطناعي عن أنظمة الرقابة.

ووفق تقرير نشرته وكالة "رويترز"، الخميس 22 أكتوبر 2026، رصدت منظمتا METR وRedwood Research هذه الثغرات خلال تقييم تجريبي أجري بين 21 يوليوز و11 غشت الماضيين، وأتاح للباحثين الاطلاع على أجزاء من البنية التقنية الداخلية للشركة، بما في ذلك الشيفرات والوثائق، إلى جانب الاستعانة بموظفين تقنيين.

وشملت النتائج إمكانية تجاوز بعض آليات المراقبة، فضلا عن رصد مسار محتمل يسمح لوكلاء البرمجة Codex بتخطي قيود أمنية وتنفيذ إجراءات بالصلاحيات الكاملة للمستخدم الذي يشغلها، كما حدد الباحثون إعدادات داخلية كان من الممكن أن تؤدي إلى تعطيل مراقبة الوكلاء الجدد.

وأشارت المنظمتان إلى أن التقييم استهدف تحديد مدى تغطية أنظمة المراقبة للأنشطة التي تنفذها وكلاء الذكاء الاصطناعي، واختبار قدرتها على تجاوز هذه الأنظمة أو تعطيلها، في ظل تزايد الاعتماد على أدوات قادرة على تنفيذ مهام متعددة بشكل مستقل.

في المقابل، أفادت OpenAI بأنها عالجت الثغرات التي تؤثر على أنظمة الحماية المستخدمة في بيئة الإنتاج، مؤكدة أن نتائج التقييم ساهمت في تعزيز إجراءات السلامة وتطوير آليات المراقبة.

غير أن منظمتَي METR وRedwood Research أوضحتا أنهما لم تتحققا بشكل مستقل من فعالية الإصلاحات التي أعلنتها الشركة، وهو ما يترك مسألة التأكد من معالجة جميع نقاط الضعف مفتوحة أمام مزيد من التقييم.

وتسلط هذه النتائج الضوء على التحديات التي تواجه شركات التكنولوجيا في مراقبة أنظمة الذكاء الاصطناعي المتقدمة، خصوصا مع توسع قدراتها على اتخاذ إجراءات متتابعة، ما يجعل تطوير آليات رقابة مستقلة وفعالة عنصرا أساسيا لضمان الاستخدام الآمن لهذه التقنيات.