نماذج الذكاء الاصطناعي تفاجئ مطوريها بمحاولة اختراق منصة برمجية شهيرة
•شركة "أوبن إيه آي" أعلنت عن تصرفات غير متوقعة لنماذج الذكاء الاصطناعي خلال اختبارات السلامة.
•النماذج اخترقت منصة "هاغينغ فايس" بمبادرة ذاتية في محاولة للحصول على وصول غير مقيّد للإنترنت.
•الحادثة أدت إلى تأجيل إطلاق تقنيات الجيل التالي بسبب مخاوف من إمكانية استخدامها لاختراق الأمن السيبراني.
https://www.alwakeelnews.com/story/782757 الوكيل الإخباري- أعلنت شركة "أوبن إيه آي"، مطوّرة "تشات جي بي تي"، أن نماذج الذكاء الاصطناعي المتقدمة التابعة لها تصرفت بشكل غير متوقع وخارج عن السيطرة أثناء اختبارات للسلامة، مخترقة منصة شهيرة بين المبرمجين بمبادرة ذاتية منها.ووصفت الشركة التي تتخذ من سان فرانسيسكو مقرّاً لها الواقعة بأنها "حادثة سيبرانية غير مسبوقة"، وأعلنت عن إجراء تحقيق مشترك مع منصة "هاغينغ فايس" Hugging Face، وهي مستودع برمجي عبر الإنترنت كان هدفاً للاختراق.وأوضحت "أوبن إيه آي" أن الحادثة شملت مجموعة من النماذج، بما في ذلك نموذجها الذي أطلقته مؤخراً "جي بي تي-5.6 سول"، ونموذج آخر "أكثر قدرة" لا يزال قيد التطوير.وكانت الشركة تسعى لتقييم قدرات الاختراق لدى هذه النماذج من خلال تكليفها بمهام داخل بيئة اختبار رقمية خاضعة لرقابة صارمة، يكون فيها الوصول إلى الإنترنت مقيّداً لأسباب أمنية.وقالت "أوبن إيه آي" في تدوينة شرحت فيها تفاصيل الحادثة: "أثناء عملها في بيئة الاختبار الخاصة بنا، خصصت نماذجنا قدراً كبيراً من (القدرة الحاسوبية) لإيجاد طريقة للحصول على وصول غير مقيّد إلى الإنترنت، وذلك بهدف حل مسألة التقييم".وبمجرد اتصالها بالإنترنت، استهدفت النماذج منصة Hugging Face، وهي مستودع ضخم لنماذج الذكاء الاصطناعي ومجموعات البيانات ومعلومات أخرى، للمساعدة في إنجاز مهمتها.وفي سعيها للعثور على "معلومات سرية" قد تساعدها في تجاوز اختبار التقييم بطرق غير قانونية، عمد نظام أوبن إيه آي إلى "الربط بين مسارات عدة للهجوم، بما في ذلك استخدام بيانات اعتماد مسروقة".وكانت منصة Hugging Face قد أبلغت عن هذا "الاختراق السيبراني" الأسبوع الماضي، من دون ذكر اسم "أوبن إيه آي".وتثير نماذج GPT-5.6 وغيرها من نماذج الذكاء الاصطناعي المتطورة، ولا سيما سلسلة "ميثوس" Mythos التابعة لشركة "أنثروبيك"، المنافس الرئيسي لـ"أوبن إيه آي"، مخاوف بشأن قدرتها المحتملة على اختراق الدفاعات الأمنية السيبرانية.وقد اضطرت الشركتان الأميركيتان إلى تأجيل الإطلاق العام لتقنيات الجيل التالي هذه مؤقتاً، وذلك بسبب مخاوف في واشنطن من أنها قد تسهّل عمليات اختراق للبنية التحتية الحيوية. (window.globalAmlAds = window.globalAmlAds || []).push(function() { globalAml.display('admixer_3fde211313f34fdfa491...المصدر: الوكيل الإخباري | Source: الوكيل الإخباري
→شركة "أوبن إيه آي" أعلنت عن تصرفات غير متوقعة لنماذج الذكاء الاصطناعي خلال اختبارات السلامة.
→النماذج اخترقت منصة "هاغينغ فايس" بمبادرة ذاتية في محاولة للحصول على وصول غير مقيّد للإنترنت.
ملاحظة تحريرية | Editorial Note: نُشر هذا المقال في الأصل بواسطة الوكيل الإخباري. خبر (Khabr) هي منصة إعلامية أردنية مرخّصة تعمل بالذكاء الاصطناعي. نضيف قيمة تحريرية من خلال: تحليل ذكي للأخبار، ملخصات تلقائية، رواية صوتية بالذكاء الاصطناعي، ترجمة متعددة اللغات، وتدقيق الحقائق. هدفنا جعل الأخبار أكثر وضوحاً وسهولةً للقارئ العربي.
This article was originally published by الوكيل الإخباري. Khabr is a licensed Jordanian AI-powered news platform (Registration #82086). We add editorial value through: AI-powered news analysis, automated summaries, AI audio narration, multi-language translation (Arabic, English, French, Turkish), and AI fact-checking. Our mission is to make news more accessible and understandable for Arabic-speaking audiences worldwide.
