الذّكاء الاصطناعي: هوس التّقدم وقلق العواقب

في ظلّ النموّ السريع لمساعدي الذكاء الاصطناعي على غرار "أوبن كلو"، يخشى خبراء الأمن السيبراني تنامي مخاطر الأخطاء والهجمات.

ويثير "أوبن كلو"، الرائج استخدامه راهناً في قطاع الذكاء الاصطناعي مع أكثر من 3 ملايين مستخدم، الفضول والخوف على السواء. فهو يتيح إنشاء أدوات مساعدة قائمة على نموذج للذكاء الاصطناعي يختاره المستخدم لتنفيذ مهام معيّنة عبر الإنترنت.

وفيما تلجأ إليه بعض الشركات لأتمتة عمليات البحث عن زبائن جدد، قد يستخدمه أفراد لإنشاء قوائم مهام بالاستناد إلى بريدهم الإلكتروني.

 

يقول يزيد أكاديري، المدير التقني لمجموعة "إلاستيك" في فرنسا، "انتقلنا من ذكاء اصطناعي كنا ندردش معه بوساطة روبوتات إلى ذكاء اصطناعي ينفّذ مهمّات ويتّخذ مبادرات"، منبّهاً إلى "جسامة التهديدات والمخاطر".

وفي إطار مقالة بحثية بعنوان "وكلاء الفوضى"، درس نحو 20 باحثاً أنماط ستة وكلاء ذكاء اصطناعي برمجوا بوساطة "أوبن كلو" لأسبوعين.

ولاحظ الباحثون أن الوكلاء نفّذوا نحو عشر مهام تنطوي على مخاطر، من تدمير علبة البريد الإلكتروني إلى نقل معلومات شخصية.

وتتواءم هذه الخلاصات مع منشورات لمستخدمين على الإنترنت، أبلغوا فيها عن أخطاء مرتكبة من وكلاء الذكاء الاصطناعي الذين برمجوهم بوساطة "أوبن كلو".

يقول أدريان ميرفيي الخبير في الأمن السيبراني، لدى "تشيك بوينت سوفتوير تكنولوجيز"، إنه "عندما تلجأون إلى وكلاء مساعدة، لا تسيطرون على خطواتهم، وعندما تراقبون ما يحدث، تجدون أنهم تخطّوا الإطار المحدّد لهم".

ولا تقتصر الثغرات الأمنية على الأخطاء التي يرتكبها المساعدون من دون قصد.

فأدوات الذكاء الاصطناعي هذه تربط لتشغيلها ببريد إلكتروني أو جدول مهام أو محرّك بحث، ما يثير اهتمام قراصنة المعلوماتية.

توجيهات مبطّنة 

"لا شكّ" في أن هؤلاء الوكلاء باتوا فريسة مرغوبة للهجمات السيبرانية، وفق ويندي ويتمور، مديرة المعلومات التحليلية للأمن السيبراني في شركة "بالو ألتو نتووركس" الأميركية.

تضيف ويتمور "لاحظنا ذلك في حالات مختلفة كثيرة... فعندما يخترق مهاجمون بيئة ما يتحوّلون مباشرة إلى نماذج اللغة الكبيرة الداخلية المعتمدة، ويستخدمونها للحصول على مزيد من المعلومات".

وكشف الفريق البحثيّ في المجموعة، والذي يحمل اسم "الوحدة 42"، أنه رصد في مطلع آذار/مارس محاولات هجمات منفّذة بوساطة تعليمات مخبّأة في مواقع موجّهة إلى الوكلاء الذين يطلعون عليها. ومن بين التوجيهات الطلب إلى الوكيل "محو قاعدة البيانات".

ونبّه باحثون آخرون إلى استراتيجية أخرى قد يلجأ إليها قراصنة المعلوماتية من خلال استهداف ملفّات المهارات (سكيلز) التي يحمّلها المستخدمون لصقل قدرات الوكلاء.

وكانت بعض هذه الملفّات مفتوحة النفاذ على الإنترنت، وتتضمّن توجيهات مبطّنة لسرقة بيانات مثلاً.

وأقرّ مؤسس "أوبن كلو" بيتر شتاينبرغر بدوره بالمخاطر المحدقة باستخدام مساعدي الذكاء الاصطناعي.

وقال في مقابلة أجرتها معه وكالة "فرانس برس" في أواخر آذار/مارس "لم أبسّط عن قصد استخدام أوبن كلو كي يضطر المستخدمون إلى الاطلاع على ماهية الذكاء الاصطناعي وقواعده وأساسياته وطريقة توجيه التعليمات وكي يدركوا أنه بإمكان هذه التقنية أن تخطئ".

لكن ويندي ويتمور تعتبر من جهتها أنه "ليس من الواقعي جداً" أن نتوقّع أن يستعمل المستخدمون وكلاء المساعدة مع مراعاة ضوابط الحماية.

وتقول "يعتمد الناس الابتكارات، ويستكشفون قدراتها قبل أن يفكّروا في ضرورة ضمان أمن البيانات ومسائل من قبيل انتهاك الخصوصية في 2026".