ملخصات البحث الذكيّة: أخطاء بالملايين كلّ ساعة

رغم أن دقة أنظمة الذكاء الاصطناعي تبدو مرتفعة عند قياسها بالنسب المئوية، يكشف حجم استخدامها العالمي وجهاً آخر أقل طمأنينة. فحين تُقاس الأخطاء على نطاق مليارات العمليات، تتحوّل حتى النسب الصغيرة إلى أرقام ضخمة ذات أثر واسع.

في هذا السياق، أظهرت دراسة أن ميزة AI Overviews التي تقدمها "غوغل"، والتي تعرض ملخصات أعلى نتائج البحث، تحقق دقة تقارب 91%. غير أن هذه النتيجة تعني أيضاً أن نحو 9% من الإجابات قد تكون غير دقيقة، ما يترجم إلى عشرات الملايين من النتائج الخاطئة أو المشكوك فيها كل ساعة، في ظل معالجة نحو 5 تريليونات عملية بحث سنوياً.

الدراسة التي أجرتها شركة Oumi استندت إلى اختبار SimpleQA، وشملت تحليل 4326 عملية بحث معقدة. وبيّنت أن دقة النظام بلغت 85% عند استخدام نموذج Gemini 2، قبل أن ترتفع إلى 91% مع النسخة الثالثة، التي تُعد أقل عرضة لما يُعرف بـ"هلوسة" الذكاء الاصطناعي.

لكن النتائج كشفت أيضاً جانباً إشكالياً، إذ تبيّن أن أكثر من نصف الإجابات المصنّفة “صحيحة” كانت غير مدعومة بالكامل بمصادر موثوقة، ما يجعل التحقق منها أمراً معقداً. ويزيد من هذا التعقيد أن النظام قد يولّد إجابات مختلفة للسؤال نفسه خلال فترات زمنية متقاربة، بحيث تكون إحداها دقيقة والأخرى خاطئة.

وتحذر الدراسة من تداعيات ذلك، خصوصاً في ظل ميل المستخدمين إلى الثقة بإجابات الذكاء الاصطناعي دون تدقيق. فعلى الرغم من تنبيه "غوغل" إلى احتمال وقوع أخطاء، تشير البيانات إلى أن نسبة محدودة فقط من المستخدمين تتحقق من الإجابات، فيما يستمر كثيرون في الاعتماد عليها حتى عندما تكون غير صحيحة، ما يثير مخاوف من اتساع نطاق المعلومات المضللة.