أنثروبيك تطلق جرس إنذار مدو.. الـAI سيطور نفسه ويخرج عن سيطرتنا
✨ AI Summary
🔊 جاري الاستماع
في تحذير لافت للنظر، اقترحت شركة أنثروبيك المتخصصة في الذكاء الاصطناعي وقفا مؤقتا لتطوير أقوى أنظمة الذكاء الاصطناعي، مع ظهور مؤشرات على إمكانية خروج أحدث النماذج عن سيطرة الإنسان.
واعتبرت الشركة التي تتخذ من سان فرانسيسكو مقرا وتقف وراء نموذج "كلود" أن تباطؤا عالميا في تطوير الذكاء الاصطناعي المتقدم "سيكون على الأرجح أمرا إيجابيا".
لكنها حذرت من أنه في حال توقفت شركة واحدة فقط، فسيتسابق المنافسون لتجاوزها.
كما أوضحت أن تحقيق وقف فعلي في الوقت نفسه يتطلب موافقة العديد من شركات الذكاء الاصطناعي الكبرى في دول متعددة، لا سيما الولايات المتحدة والصين، وفقا لقواعد يمكن للجميع التحقق منها.
مقارنة بالأسلحة النووية
إلى ذلك، قارنت أنثروبيك المشكلة بمعاهدات الحد من الأسلحة النووية، لكنها قالت إن تدريب نماذج الذكاء الاصطناعي بسرية أسهل بكثير من إخفاء الصواريخ، وإغراء الاستمرار في الخفاء سيكون هائلا. وأوضحت أنها تخطط لجمع مسؤولين حكوميين وعلماء وشركات ذكاء اصطناعي متنافسة في الأشهر المقبلة لمعرفة كيفية إنشاء مثل هذا النظام.
كذلك أضافت أن الدعوة إلى التنسيق تأتي جنبا إلى جنب مع البيانات الداخلية التي تظهر أن الذكاء الاصطناعي يعمل على تسريع تطوير الذكاء الاصطناعي نفسه بشكل كبير.
تعليم نفسه بنفسه
وحذرت من أن هذا التسارع قد يؤدي في النهاية إلى ما يسميه الباحثون "التحسين الذاتي المتكرر"، بحيث يصبح نظام الذكاء الاصطناعي قادرا على تعليم نفسه بنفسه دون مساعدة بشرية كبيرة. وقالت في تقريرها "لم نصل إلى هناك بعد، والتحسين الذاتي المتكرر ليس أمرا حتميا"، لكنها حذرت من أنه قد يحدث في وقت أقرب مما تتخيله معظم الحكومات والمؤسسات"، وفق ما نقلت فرانس برس اليوم الجمعة.
صعوبة بالغة
في المقابل، يواجه هذا المقترح صعوبة بالغة في واشنطن ووادي السيليكون، حيث اعتبر مسؤولون أميركيون ومديرو شركات بأن أي تباطؤ في تطوير الذكاء الاصطناعي يهدد بمنح الصين ميزة التقدم.
هذا وواجهت الشركة الرائدة معارضة من جهات أخرى في القطاع ومسؤولين في البيت الأبيض رأوا أن تركيزها على أسوأ السيناريوهات يحمل مبالغة في تقدير المخاطر، مع اتهامها باتباع استراتيجية لإبطاء المنافسين تحت غطاء إثارة المخاوف.
مع ذلك، أقر البيت الأبيض نموذج "ميثوس" الخاص بشركة أنثروبيك والذي لم يُطرح أمام الجمهور بعد بسبب قدراته في مجال الأمن السيبراني واختراق أقوى الأنظمة الالكترونية، وهو يستخدم حاليا فقط في عدد محدود من المؤسسات.
