أعلنت شركة (OpenAI) حزمة إجراءات جديدة لتعزيز الأمن والسلامة، تهدف إلى احتواء الحوادث الأمنية أثناء اختبار نماذج الذكاء الاصطناعي.
وأوضحت الشركة الأمريكية أن الإجراءات الجديدة جاءت جزئيا نتيجة القدرات المتقدمة في مجال الأمن السيبراني لنموذج مرتقب، إلى جانب السرعة المتزايدة التي يتطور بها قطاع الذكاء الاصطناعي.
وتشمل الإجراءات الجديدة مراقبة أكثر تفصيلا لسلوك النماذج خلال مراحل التطوير، إلى جانب تعزيز التركيز على مواءمة النماذج وأمنها خلال مرحلة ما بعد التدريب.
وتهم، أيضا، تعزيز ممارسات عزل الشبكات، بحيث لا يؤدي اختراق أحد أعباء العمل أو الخدمات الداعمة بمفرده إلى منح المهاجمين وصولا غير مصرح به إلى الإنترنت أو إلى شبكات داخلية أخرى.
كما تتضمن نظام مراقبة متقدما يفحص مجموعة واسعة من الأنشطة بحثا عن سلوك غير مصرح به، ويراقب إجراءات الأدوات التي تستخدمها النماذج وآثار الاستدلال وسجلات النشاط، بهدف اكتشاف الأنماط التي قد تشير إلى محاولة تجاوز القيود الأمنية.
وتستهدف (OpenAI) إصدار تنبيهات خلال 30 دقيقة من اكتشاف نشاط يثير المخاوف، وتقدر الشركة أن تشغيل نظام المراقبة سيحتاج إلى موارد حوسبة تعادل نحو 20 في المائة من الموارد المستخدمة في العملية التي تتم مراقبتها.
