3 مبادئ أساسية لجعل الذكاء الاصطناعي موثوقًا في المؤسسات

بعد أن كان الذكاء الاصطناعي يستخدم سابقًا كأداة في الأعمال الخلفية فقط، أصبح اليوم يقود قرارات مهمة داخل الشركات. ومع ذلك، فإن التفوق التقني لا يعني بالضرورة أن المنتجات جديرة بالثقة. فقد كشف تقرير مشترك بين شركتي SAS وIDC شمل أكثر من 2300 قائد أعمال حول العالم، عن فجوة لافتة: فبينما تقول 78% من المؤسسات إنها تثق في الذكاء الاصطناعي، فإن 40% فقط استثمرت فعليًا في جعل هذه الأنظمة جديرة بالثقة من خلال تطبيق إجراءات حماية وضوابط. هذه الفجوة بين الثقة المتصورة والمساءلة لها عواقب حقيقية. فغياب الشفافية حول كيفية بناء أنظمة الذكاء الاصطناعي وإدارتها، يجعل المؤسسات غير قادرة على فهم الآليات التي تقود القرارات. وعندما يقدم الذكاء الاصطناعي قرارات دون شرح كيفية الوصول إليها، قد تمر التحيزات الخفية والمخاطر التشغيلية دون اكتشاف، مما يؤدي إلى تآكل الثقة بمرور الوقت. كما أن نماذج اللغة الكبيرة التي يتم تدريبها على كميات هائلة من البيانات غير المنظمة، تجعل هذا الغموض أمرًا يصعب تجنبه. وبسبب قدرة هذه النماذج على إنتاج نصوص سلسة، يؤدي هذا إلى خلق وهم الفهم، ما يجعلها تبدو أكثر إنسانية وموثوقية مما هي عليه في الواقع. أسس نجاح الذكاء الاصطناعي في الشركات هذا الواقع يعيد تشكيل الطريقة التي يقيس بها كبار التنفيذيين نجاح الذكاء الاصطناعي اليوم. فالدقة والسرعة لا تزالان مهمتين، لكنهما لم تعودا كافيتين. وأصبح النجاح يعتمد الآن على 3 مبادئ أساسية تحدد ما إذا كان يمكن الوثوق بالذكاء الاصطناعي في الواقع العملي: الشفافية: توفر رؤية واضحة حول كيفية تصميم أنظمة الذكاء الاصطناعي وتدريبها ونشرها وإدارتها. قابلية التفسير: تمكن البشر من فهم نتائج الذكاء الاصطناعي والدفاع عنها. الثقة: لا تتحقق إلا عندما يتم الحفاظ على الشفافية وقابلية التفسير بمرور الوقت من خلال المساءلة والإشراف. بالنسبة للمديرين التنفيذيين، هذه المبادئ ليست نظرية، بل تحدد بشكل مباشر ما إذا كانت مبادرات الذكاء الاصطناعي يمكن أن تتوسع، وتتحمل التدقيق التنظيمي، وتحصل على قبول داخل المؤسسة. الشفافية وقابلية التفسير والثقة في الذكاء الاصطناعي غالبًا ما يتم جمع الشفافية وقابلية التفسير والثقة تحت مفهوم "الذكاء الاصطناعي المسؤول"، لكنها في الواقع تلعب أدوارًا مختلفة داخل أنظمة المؤسسات، والخلط بينها قد يؤدي إلى شعور زائف بالثقة في الأنظمة. تكمن المشكلة في أن المؤسسات غالبًا ما تربط هذه المفاهيم بأداء النموذج ودقته، وتفترض أن النتائج الجيدة تعني أن النظام جدير بالثقة. لكن في الواقع، الثقة تأتي من الفهم وتحمل المسؤولية، وليس من الدقة فقط. تبدأ العملية بالشفافية، لأنها توفر رؤية واضحة لكيفية تصميم أنظمة الذكاء الاصطناعي وتدريبها ونشرها وإدارتها طوال دورة حياتها، بما في ذلك أين تظهر نتائجها في سير العمل اليومي، وما هي الافتراضات التي بُنيت عليها. والشفافية لا تعني مجرد وجود وثائق، بل تعني فهم كيفية تصرف الأنظمة في الواقع، وجودة البيانات التي تعتمد عليها. ومن دون هذا المستوى من الرؤية، قد يجد القادة أنفسهم غير قادرين على الإجابة حتى عن الأسئلة الأساسية عندما يتم الطعن في قرار آلي. ومع ذلك، حتى عندما تكون الأنظمة شفافة، قد تظل قراراتها صعبة التفسير. فالكثير من أنظمة الذكاء الاصطناعي تعمل كصندوق أسود، أي أن طريقة تحويل المدخلات إلى نتائج لا يمكن ملاحظتها أو فهمها بسهولة من قبل البشر، مما يجعل تتبع كيفية اتخاذ قرار معين أمرًا صعبًا. لذلك، فإن قابلية التفسير تبني على الشفافية من خلال توضيح سبب إنتاج النظام لنتيجة معينة. فإذا كانت الشفافية توفر الوصول إلى المعلومات، فإن قابلية التفسير تحول هذه المعلومات إلى فهم عملي يمكن استخدامه. وهذه القدرة مهمة جدًا في مجالات حساسة، مثل التمويل والرعاية الصحية والتوظيف والامتثال، حيث يجب أن تكون القرارات قابلة للتبرير. كما أن قابلية التفسير تساعد المؤسسات على تحديد المسؤولية عند حدوث أخطاء. فأنظمة البيانات المعقدة والأنظمة غير الشفافة، تجعل من الصعب تحديد من المسؤول عندما يخطئ الذكاء الاصطناعي. وعندما تنهار المساءلة بهذه الطريقة، تتآكل الثقة بسرعة. فالثقة لا يمكن بناؤها مباشرة، بل تتشكل بمرور الوقت من خلال الأداء الموثوق، وتحديد المسؤوليات بوضوح، ووجود إشراف فعال. وتترسخ الثقة عندما يتصرف الذكاء الاصطناعي بشكل متوقع، ويتم إدارة المخاطر بشكل نشط، وتستطيع المؤسسات توضيح من المسؤول عن القرارات الآلية. وبشكل عام، فإن الشفافية وقابلية التفسير والثقة معًا تحدد قدرة المؤسسة على تقييم مخاطر الذكاء الاصطناعي وإدارتها، والامتثال للجهات التنظيمية، والحفاظ على ثقة أصحاب المصلحة. ومن دون هذه المبادئ، غالبًا ما تتعثر مشاريع الذكاء الاصطناعي، أو يتم إيقافها قبل أن تصل إلى مرحلة الإنتاج الفعلي. تم نشر هذا المقال على موقع القيادي