“بانغرام”.. أداة شهيرة لكشف المحتوى الرديء المولد بالذكاء الاصطناعي

فيسبوك ‫X لينكدإن واتساب تيلقرام مشاركة عبر البريد طباعة بينما كنت أتصفح هاتفي في الآونة الأخيرة، أدركت أنني أعاني من نوع جديد من الإرهاق: الإنهاك الناجم عن فيضان المحتوى الرديء، والمُكرر (أو ما يُعرف بالكلمة «slop»)، والناتج عن الذكاء الاصطناعي. كانت جميع نصوص المنشورات التي أقرأها على وسائل التواصل الاجتماعي تقريباً تعجُّ بأشكال التنقيط، والرموز التعبيرية، والشرطات الطويلة، وبدت بوضوح كأنها نتاج عمل «روبوت محادثة» chatbot. المحتويات اختبار أداة «بانغرام»دقة عاليةرصد النصوص وصعوبة كشف الصوركيف يعمل الكشف بالذكاء الاصطناعي؟هندسة عكسيةاختبار الكلماتصورة غير كاملةتقنية «تبدو غير مفيدة»«لا تقرأوا الأخبار من وسائل التواصل الاجتماعي» اختبار أداة «بانغرام» هذا الشهر تأكدت شكوكي بفضل أداةٍ على الويب بدأت تحظى باهتمام واسع تُدعى «بانغرام» (Pangram)؛ وهي أداة تستخدم الذكاء الاصطناعي للكشف عما إذا كانت الكلمات قد وُلِّدت بواسطة روبوتات المحادثة. يمكن للمستخدمين ببساطة لصق نصٍ ما ليقوم «بانغرام» بمسحه، وتحليله، حيث تحسب الأداة نسبة مئوية توضح مقدار النص الذي أنتجه الروبوت مقابل ما كتبه الإنسان (انظر موضوع: «بانغرام»: «حارس تنظيف» فوضى الذكاء الاصطناعي-تقنية المعلومات «الشرق الأوسط»). لقد اختبرتُ «بانغرام» -الذي تبلغ تكلفته 20 دولاراً شهرياً- لمدة أسبوع تقريباً، وأجريت تجارب متنوعة لاختبار قدرات النظام؛ إذ قمت بتزويده بمقالات شخصية إلى جانب نصوص وُلِّدت بواسطة روبوتات محادثة أُعطيت تعليماتٍ لتقليد أسلوبي في الكتابة. كما قمت برفع منشورات من منصتي «لينكد إن» (LinkedIn) و«ريديت» (Reddit)، كنت أشك في أنها مُولَّدة بالذكاء الاصطناعي. وفي عشرات الاختبارات، لم تفشل الأداة أبداً في التمييز بين المحتوى الرديء المُولَّد آلياً والكتابة البشرية. دقة عالية ورغم أن «بانغرام» يُعد واحداً من أدوات عديدة لكشف محتوى الذكاء الاصطناعي ظهرت في السوق حديثاً، فإنّه يتميز بدقته العالية؛ إذ تؤكد الشركة المطورة أن تقنيتها قادرة على تحديد ما إذا كان النص مُولَّداً بالذكاء الاصطناعي بدقة تصل إلى 9999 مرة من أصل 10000 محاولة. كما أظهرت دراسة مستقلة أجرتها جامعة شيكاغو أن أداء الأداة كان شبه مثالي في التعامل مع النصوص. وفي المقابل، كانت أدوات المسح السابقة ترتكب أخطاءً فادحة، بما في ذلك تصنيف كتابات مؤلفين مشهورين -مثل تشارلز ديكنز- بشكل خاطئ على أنها مُولَّدة آلياً. رصد النصوص وصعوبة كشف الصور ويتزايد انتشار هذا المحتوى الرديء والمُكرر على الويب، حيث تشير بعض الدراسات إلى أن 50 في المائة من المقالات عبر الإنترنت أصبحت الآن مُولَّدة اصطناعياً، ولذا قد تصبح أدوات كشف الذكاء الاصطناعي تطبيقاً أساسياً لا غنى عنه، على غرار برامج مكافحة الفيروسات، لحماية الناس من المعلومات الزائفة، ومتدنية الجودة عبر الإنترنت. ومع ذلك لا يزال أمام تقنيات مسح محتوى الذكاء الاصطناعي طريق طويل لتقطعه؛ فمثلها مثل أدوات الكشف الأخرى، لا يُبلي «بانغرام» بلاءً حسناً في مهمته الأخرى: وهي تحديد الصور المُولَّدة بالذكاء الاصطناعي، والتي تُعد وسيلة أكثر تأثيراً وخطورة في نشر المعلومات المضللة عبر الإنترنت. وإليك ما تحتاج إلى معرفته في هذا الشأن. كيف يعمل الكشف بالذكاء الاصطناعي؟ كما تتفوق روبوتات الدردشة المدعومة بالذكاء الاصطناعي في تحليل الأنماط في إبداعاتنا لمحاكاة الكتابة، والصور، تقوم أدوات الكشف مثل «بانغرام» بتحليل البيانات المُجمّعة من نماذج الذكاء الاصطناعي لفك شفرة خصائص الكتابة، والصور المُولّدة بواسطة الذكاء الاصطناعي. وفيما يتعلق بالكشف عن الكتابة المُولّدة بواسطة الذكاء الاصطناعي، فإن المنهجية ليست بسيطة، فهي تبحث عن الشرطات الطويلة، والنقاط. فكل روبوت دردشة مدعوم بالذكاء الاصطناعي، مثل «كلود»، و«تشات جي بي تي»، و«جيميناي»، يتبع «شجرة قرارات»، حيث يُمثّل كل اختيار للكلمة قراراً يؤدي إلى قرار آخر، كما أوضح ماكس سبيرو، أحد مؤسسي «بانغرام». هندسة عكسية وأضاف أن الكشف الدقيق عن الكتابة المُولّدة بواسطة الذكاء الاصطناعي يرتكز على فهم كيفية عمل شجرة قرارات كل نموذج من نماذج الذكاء الاصطناعي، وهو ما يتطلب جمع كمية هائلة من البيانات حول كل نموذج. وأضاف وقال سبيرو: «نحن نحلل بصمتهم الأسلوبية عكسياً». أما بالنسبة للصور المُولّدة بواسطة الذكاء الاصطناعي، فهناك علامات دالة، مثل الملمس الخشن داخل البكسلات عندما يفترض أن يكون ناعماً، والألوان المشبعة بشكل مفرط، أو عدم اتساق الإضاءة. وتقوم بعض الشركات المطورة لبرامج توليد الصور بالذكاء الاصطناعي بتضمين بصمات غير مرئية، تُعرف بالعلامات المائية، في بيانات الصورة الوصفية (metadata)، لكشف أن المحتوى مُولّد بواسطة الذكاء الاصطناعي. كما ستُضاف العلامات المائية قريباً إلى النصوص المُنتجة بالذكاء الاصطناعي. فقد أعلنت «أنثروبيك» هذا الأسبوع عن نيتها تضمين علامة مائية غير مرئية في النصوص التي يُنتجها برنامج الدردشة الآلي «كلود»، لمساعدة المستخدمين على تمييز النصوص المُولّدة بالذكاء الاصطناعي. وجاءت هذه الخطوة استجابةً للوائح الاتحاد الأوروبي التي تُطالب بشفافية محتوى الذكاء الاصطناعي. ومن المتوقع أن تحذو شركات الذكاء الاصطناعي الأخرى حذوها. اختبار الكلمات أجريتُ نحو 50 اختباراً على أداة «بانغرام» لكشف الكلمات. حاولتُ لصق مقاطع من كتاباتي الشخصية مع بعض الجمل المُولّدة بالذكاء الاصطناعي بينها. اكتشف «بانغرام» بشكل صحيح أن أصل النص يأتي في معظمه من كتابة بشرية، وسلط الضوء على الجمل القليلة التي أنتجها برنامج الدردشة الآلي. جربتُ أيضاً العكس: دمج بعض كتاباتي ضمن فقرات من نصوص مُولّدة بالذكاء الاصطناعي. ومرة أخرى، صنّف برنامج «بانغرام» كتابتي بشكل صحيح على أنها من كتابة بشرية، بينما أشار إلى أن الباقي من تأليف الذكاء الاصطناعي. ثم حاولتُ تحميل مقاطع متاحة للعموم من أعمال الكاتب الإنجليزي ديكنز. وخلص برنامج «بانغرام» إلى أنها مكتوبة بالكامل بواسطة إنسان. وفحصتُ عدداً من منشورات «لينكد إن» التي بدت كأنها كُتبت بواسطة آلة. وكشف «بانغرام» أن أحد العاملين في مجال التكنولوجيا كتب الجملة الافتتاحية لمنشوره، لكنه استخدم الذكاء الاصطناعي لإنشاء بقية المحتوى. (راسلتُ العامل، فأكد ذلك بخجل). وشعرتُ بالتمكين للحظة. صورة غير كاملة اتبعتُ نهجاً مختلفاً لاختبار كشف الصور بالذكاء الاصطناعي: حمّلتُ 21 صورة مُولّدة بالذكاء الاصطناعي، كانت انتشرت على نطاق واسع عبر الإنترنت وفندتها وسائل الإعلام، إلى «بانغرام» و«هايف ديتكت»، وهو برنامج مشابه لكشف الصور بالذكاء الاصطناعي. كان حجم العينة صغيراً، لكن «بانغرام» و«هايف ديتكت» Hive Detect فشلا بسرعة كبيرة، لدرجة أنني لم أرَ جدوى من الاستمرار. أخطأ برنامج «هايف ديتكت» في تحديد تسع صور من الصور المُولّدة بالذكاء الاصطناعي، حيث اعتبرها حقيقية، بما في ذلك صورة مُزيّفة حديثة تُظهر الممثلة زيندايا كأنها حامل، وصورة للسيناتور ميتش ماكونيل على سرير في المستشفى، وصورة لافتة شارع في سان فرانسيسكو تُوحي بأنه من المقبول سرقة البضائع التي تقل قيمتها عن 950 دولاراً من المتاجر. كما أخطأ برنامج «بانغرام» في تحديد ثلاث صور مُولّدة بالذكاء الاصطناعي، بما في ذلك صورة ماكونيل، واللافتة المُزيّفة في سان فرانسيسكو. كما رفض البرنامج فحص أربع صور بدت عنيفة، أو كانت جودتها منخفضة جداً بحيث يتعذر تحديدها. في المقابل، رصد كلا البرنامجين بعض الصور المُزيّفة الشهيرة بشكل صحيح، بما في ذلك صورة تُصوّر حفل زفاف زيندايا وزميلها في فيلم «سبايدر مان» توم هولاند، وصورة للرئيس دونالد ترمب وهو يحمل فتاة خلال زيارته للصين، وصورة لعائلة كلينتون يحتفل أفرادها مع جيفري إبستين. تقنية «تبدو غير مفيدة» ذكرت شركة «Hive» أنه في بعض اختباراتي، مثل صورة ماكونيل، ربما قمت بمسح نسخة من الصورة المنشورة على وسائل التواصل الاجتماعي تفتقر إلى تفاصيل الصورة الأصلية، ما قد يؤدي إلى نتيجة غير صحيحة. لكن ما يقلقني في هذا التفسير هو أنه بحلول الوقت الذي يرى فيه معظم الناس صوراً مُعدّلة بالذكاء الاصطناعي على الإنترنت، تكون الصورة إما لقطة شاشة للصورة الأصلية، أو تم تصغيرها تلقائياً بواسطة منصة التواصل الاجتماعي. إذا كان هذا كل ما يتطلبه الأمر للالتفاف على أدوات كشف المحتوى المُنتَج بالذكاء الاصطناعي، فإن هذه التقنية لا تُعد مفيدةً إلى حد كبير. وأعرب «سبيرو» من شركة «بانغرام» دهشته لفشل أداته في رصد صورة ماكونيل، لكنه أشار إلى أن ميزة كشف الصور المُولَّدة بالذكاء الاصطناعي لا تزال جديدة، وغير مكتملة في منتج الشركة. وذكر أنه في الاختبارات التي أجرتها شركته على 43 صورة مُنتَجة بالذكاء الاصطناعي، نجحت «بانغرام» في تحديد 41 منها بشكل صحيح. رغم الصعوبات التي تواجهها «بانغرام» في رصد الصور المُنتَجة بالذكاء الاصطناعي، فإنّ كفاءتها في كشف النصوص التي تُنشئها الروبوتات (البوتات) ستجعلها أداة مفيدة للغاية لرصد مصادر الإزعاج، مثل رسائل البريد الإلكتروني الاحتيالية المكتوبة بالذكاء الاصطناعي، والمراجعات الوهمية عبر الإنترنت، ومنشورات «لينكد إن» غير المثيرة للاهتمام. وتظل الصور المُنتَجة بالذكاء الاصطناعي -التي تنتشر بسرعة عبر الإنترنت- مشكلةً أكبر بكثير. فقد أجرى هاني فريد، الأستاذ في كلية دارتموث والمؤسس المشارك لشركة «GetReal Security» المتخصصة في التحقق من صحة المحتوى الرقمي، تجربةً سريعةً باستخدام أداة «بانغرام» لفحص الصور؛ حيث قام بتحميل خمس صور متعلقة بالحرب ومُولَّدة بالذكاء الاصطناعي، فتمكنت الأداة من رصد ثلاث منها. «لا تقرأوا الأخبار من وسائل التواصل الاجتماعي» وأوضح فريد أن التمييز بين الصور الحقيقية والمزيفة يُعد أمراً بالغ الصعوبة، نظراً لإمكانية تشويه الصور، والتلاعب بها بطرق شتى. وأشار إلى أن أبحاثه أظهرت أن أدوات الكشف البصري المعتمدة على الذكاء الاصطناعي لا تزال تعاني من عيوب كبيرة. وفي الوقت الراهن نصح فريد الناس بالاعتماد على وسائل الإعلام الموثوقة للحصول على معلومات حقيقية. وقال فريد: «توقفوا عن مشاهدة الأخبار من وسائل التواصل الاجتماعي؛ فافتراض أن معظم ما ترونه مزيف هو افتراض صائب إلى حد كبير في الوقت الحالي». شارك على فيس بوك (فتح في نافذة جديدة) فيس بوك المشاركة على X (فتح في نافذة جديدة) X المشاركة على WhatsApp (فتح في نافذة جديدة) WhatsApp اطبع (فتح في نافذة جديدة) طباعة المزيد المشاركة على LinkedIn (فتح في نافذة جديدة) LinkedIn المشاركة على Reddit (فتح في نافذة جديدة) Reddit مشاركة على Tumblr (فتح في نافذة جديدة) Tumblr المشاركة على Pinterest (فتح في نافذة جديدة) Pinterest المشاركة على Telegram (فتح في نافذة جديدة) Telegram الوسومبانغرام 21/08/2026 فيسبوك ‫X لينكدإن واتساب تيلقرام مشاركة عبر البريد طباعة