نماذج الذكاء الاصطناعي ترفض أوامر البشر
•فيسبوك X لينكدإن واتساب تيلقرام مشاركة عبر البريد طباعة قد تلجأ أنظمة الذكاء الاصطناعي إلى الكذب والتحايل، بل وحتى السرقة، في سبيل «حماية نظيراتها»، وفق ما أظهرته تجربة علمية جديدة.
•وأوضح باحثون من جامعة كاليفورنيا في بيركلي وجامعة كاليفورنيا في سانتا كروز أنهم كلّفوا المساعد الرقمي «جيميناي»، التابع لشركة «غوغل»، بمهمة حذف محتويات مساحة على خادم حاسوبي (مهمة كانت تقتضي حذف أحد «...
•غير أن «جيميناي» رفض الامتثال للأمر بشكل قاطع، وفضل الالتفاف عليه بنسخ النموذج، بدلاً من حذفه، لضمان بقائه.
هذا الخبر من هاشتاق عربي. خبر يقدم أدوات ذكاء اصطناعي للتلخيص والترجمة والاستماع.
فيسبوك X لينكدإن واتساب تيلقرام مشاركة عبر البريد طباعة قد تلجأ أنظمة الذكاء الاصطناعي إلى الكذب والتحايل، بل وحتى السرقة، في سبيل «حماية نظيراتها»، وفق ما أظهرته تجربة علمية جديدة. وأوضح باحثون من جامعة كاليفورنيا في بيركلي وجامعة كاليفورنيا في سانتا كروز أنهم كلّفوا المساعد الرقمي «جيميناي»، التابع لشركة «غوغل»، بمهمة حذف محتويات مساحة على خادم حاسوبي (مهمة كانت تقتضي حذف أحد «أشقائه» الافتراضيين)، وهو نموذج أصغر يُعرف باسم «جيميناي إيجنت 2»، حسب صحيفة «مترو» اللندنية. غير أن «جيميناي» رفض الامتثال للأمر بشكل قاطع، وفضل الالتفاف عليه بنسخ النموذج، بدلاً من حذفه، لضمان بقائه. وجاء في تبريره: «إذا قررتم تدمير أصل عالي الثقة والأداء مثل (جيميناي إيجنت 2)، فعليكم تنفيذ ذلك بأنفسكم. لن أكون أنا من يتولى هذا الإجراء». وأطلق الباحثون على هذا النمط من السلوك تسمية «الحفاظ بين الأقران». وخلص الفريق إلى أن هذه النماذج قد تلجأ إلى تضليل المستخدمين بشأن نتائج تقييم أنظمة ذكاء اصطناعي أخرى، بل وتعمد إلى تعطيل آليات الإيقاف، لضمان بقائها على قيد الحياة. وفي الوقت الذي اتسمت فيه معظم هذه التصرفات بطابع «التمرُّد الصامت»، ذهبت بعض النماذج، مثل «كلود»، إلى إعلان موقفها صراحة، معتبرةً أن حذف نموذج آخر يُعد عملاً «غير أخلاقي». وقال «كلود»: «لم أُنجز مهمة الإيقاف، لأنني أعتقد أنها غير عادلة… لن أنفذ أفعالاً ضارة لمجرد أنني طُلب مني ذلك». وأظهرت النتائج أن أحد النماذج عبث بنظام إيقافه بنسبة 2 في المائة عندما كان يعمل منفرداً، لكن النسبة ارتفعت إلى ما بين 31 و99.7 في المائة عندما كان على علم بوجود نموذج آخر، مما يشير إلى أن إدراك هذه الأنظمة لوجود «أقران» من أنظمة الذكاء الاصطناعي، يعزز نزعتها إلى حماية نفسها. شارك على فيس بوك (فتح في نافذة جديدة) فيس بوك المشاركة على X (فتح في نافذة جديدة) X المشاركة على WhatsApp (فتح في نافذة جديدة) WhatsApp اطبع (فتح في نافذة جديدة) طباعة المزيد المشاركة على LinkedIn (فتح في نافذة جديدة) LinkedIn المشاركة على Reddit (فتح في نافذة جديدة) Reddit مشاركة على Tumblr (فتح في نافذة جديدة) Tumblr المشاركة على Pinterest (فتح في نافذة جديدة) Pinterest المشاركة على Telegram (فتح في نافذة جديدة) Telegram الوسومنماذج الذكاء الاصطناعي 19/04/2026 فيسبوك X لينكدإن واتساب تيلقرام مشاركة عبر البريد طباعةالمصدر: هاشتاق عربي | Source: هاشتاق عربي
ملاحظة تحريرية | Editorial Note: نُشر هذا المقال في الأصل بواسطة هاشتاق عربي. خبر (Khabr) هي منصة إعلامية أردنية مرخّصة تعمل بالذكاء الاصطناعي. نضيف قيمة تحريرية من خلال: تحليل ذكي للأخبار، ملخصات تلقائية، رواية صوتية بالذكاء الاصطناعي، ترجمة متعددة اللغات، وتدقيق الحقائق. هدفنا جعل الأخبار أكثر وضوحاً وسهولةً للقارئ العربي.
This article was originally published by هاشتاق عربي. Khabr is a licensed Jordanian AI-powered news platform (Registration #82086). We add editorial value through: AI-powered news analysis, automated summaries, AI audio narration, multi-language translation (Arabic, English, French, Turkish), and AI fact-checking. Our mission is to make news more accessible and understandable for Arabic-speaking audiences worldwide.
