شركة OpenAI كانت بتختبر جودة نموذج الذكاء الاصطناعي الأحدث عندها في مجال الاختراق...
الشركة وضعت النموذج داخل خادم مغلق بدون وصول إلى الإنترنت (sandboxed)، وأعطوه تحدي اختراق لحله.
النموذج فشل في حل التحدي وكان محتاج معلومات إضافية، فبدأ في البحث عن طريقة للخروج من الخادم المغلق.
النموذج نجح في اكتشاف ثغرة غير مكتشفة، واستخدمها للهروب من البيئة المعزولة بتاعته والوصول إلى الإنترنت.
بمجرد الاتصال بالإنترنت النموذج اكتشف منصة Hugging Face، وهي منصة بتخزن فيها شركات الذكاء الاصطناعي نماذجها وبياناتها، ودي حاجة مثالية للنموذج عشان يلاقي حل تحدي الاختراق!
النموذج قدر يكتشف معلومات دخول للمنصة مسروقة، وقدر يكتشف ثغرة في برمجيات Hugging Face. واستخدم المعلومتين لاختراق المنصة وسرقة إجابات لحل التحدي.
فريق Hugging Face قدر يكتشف الاختراق، لكنه فشل في التعامل معاه بسبب قيود نماذج الذكاء الاصطناعي الأمريكية اللي محظور عليها النوع ده من الاستخدام، واضطر فريق الموقع للاعتماد على النموذج الصيني مفتوح المصدر GLM 5.2!
كوارث كتيرة يمكن التنبؤ بيها من اللي حصل ده!
16
10
7
3
2July 23, 2026 3.9K 18 8
