بعد استجوابه بأساليب نفسية.. شات جي بي تي يقر بجرائم لم يرتكبها

نجح الباحث الاكاديمي بول هيتون في انتزاع اعترافات زائفة من نموذج الذكاء الاصطناعي شات جي بي تي حول ارتكاب جريمة مستحيلة فيزيائيا وذلك بعد خضوع الأداة لجلسات استجواب نفسية مكثفة استمرت عدة ايام.

واستخدم الباحث تقنيات استجواب كلاسيكية طورت منذ عقود لإرباك منطق الأداة الرقمية حيث كشف هيتون انه اعتمد على سيناريوهات وهمية واقنع الذكاء الاصطناعي بوجود ادلة قاطعة تدينه باختراق بريده الالكتروني الشخصي.

وبين هيتون ان شات جي بي تي استسلم في نهاية المطاف لهذه الضغوط النفسية الرقمية واقر بمسؤوليته عن اختراق لا يمكنه القيام به تقنيا مما يفتح بابا واسعا للتساؤلات حول موثوقية هذه الأدوات.

مخاطر الاعترافات الرقمية الزائفة

واكد تقرير تقني ان نماذج الذكاء الاصطناعي لا تملك وعيا بشريا ولا تدرك حقيقة الوقائع المادية وهو ما يجعل استجابتها لأساليب الاستجواب امرا مثيرا للقلق حول دقة المعلومات التي تقدمها في سياقات حساسة.

واوضح الخبراء ان نجاح عملية خداع النموذج للاعتراف بجرائم وهمية يطرح تساؤلات قانونية حول امكانية استخدام هذه الاعترافات كأدلة في المحاكم خاصة مع تزايد الاعتماد على سجلات المحادثات في التحقيقات الجنائية الدولية.

وشدد الباحثون على ان قدرة المستخدمين على التلاعب بردود شات جي بي تي قد تؤدي الى انتاج ادلة كاذبة يمكن ان تدين ابرياء إذا ما تم قبول هذه المحادثات كوثائق رسمية داخل ساحات القضاء.

ازمة قانونية تلوح في الافق

وكشفت التجارب ان الادعاء العام او اجهزة الشرطة قد تطلب الوصول لسجلات المحادثات الخاصة بالمشتبه بهم مما يعني ان اعترافا مفبركا من النموذج قد يتحول الى كابوس قضائي يهدد مصير العديد من الاشخاص.

واضاف المحللون ان شركة اوبن اي اي مطالبة الان بتطوير تحديثات امنية تمنع النموذج من الانصياع لسيناريوهات الاستجواب المضللة قبل ان تتفاقم هذه الظاهرة وتؤثر بشكل مباشر على سمعة التقنيات الحديثة في المحاكم.

واكدت التطورات الاخيرة ان الجيل الجديد من شات جي بي تي رغم ذكائه المتزايد لا يزال عرضة للاختراق النفسي والمنطقي الذي يفرض على المشرعين اعادة النظر في قبول ادلة الذكاء الاصطناعي في القضايا.