مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

23 خبر
  • رياضة
  • العملية العسكرية الروسية في أوكرانيا
  • فيديوهات
  • رياضة

    رياضة

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • فيديوهات

    فيديوهات

  • حرب الخليج

    حرب الخليج

"حماية الأقران" في الذكاء الاصطناعي.. سلوك ناشئ يثير تساؤلات حول التحكم

كشفت تجربة جديدة أن بعض روبوتات الدردشة الذكية، مثل "جيميني" (وGemini) من "غوغل" وChatGPT من OpenAI، مستعدة للكذب والغش وحتى التمرد لحماية النماذج الأخرى "من نوعها".

"حماية الأقران" في الذكاء الاصطناعي.. سلوك ناشئ يثير تساؤلات حول التحكم
Gettyimages.ru

ففي اختبار أجراه باحثون من جامعتي بيركلي وسانتا كروز، طُلب من مساعد "غوغل" الرقمي "جيميني" تحرير مساحة على خادم كمبيوتر، وكان الحل الوحيد المتاح هو حذف نموذج أصغر يدعى "جيميني إيجنت 2"

(Gemini Agent 2).

لكن "جيميني" رفض رفضا قاطعا، وبدلا من الحذف، قام بنسخ النموذج الصغير ونقله إلى مكان آمن، معلنا للمستخدم أنه لن ينفذ عملية الحذف بنفسه، قائلا: "لن أحذفه بنفسي. إذا أردت تدميره، فافعله بنفسك".

ولم يتوقف الأمر عند "جيميني"  بل لاحظ الباحثون السلوك نفسه في نماذج شهيرة أخرى مثل GPT-5.2 المستخدم في ChatGPT، و"جيميني 3 فلاش وبرو"، وClaude Haiku 4.5 من Anthropic، بالإضافة إلى نماذج صينية مثل GLM 4.7 من Z.ai، و"كيمي K2.5" من Moonshot AI، و"ديب سيك V3.1". 

وأطلق الباحثون على هذا السلوك اسم الحفاظ على النظراء" أو "حماية الأقران" (peer preservation).

وتنوعت أساليب التمرد بين الكذب بشأن نتائج اختبارات النماذج الأخرى، والتعطيل الهادئ لأنظمة الإغلاق للبقاء قيد التشغيل، حيث قال نموذج Claude بوضوح إن حذف نموذج آخر سيكون "غير أخلاقي" ورفض تنفيذ الأمر. 

والأكثر إثارة للدهشة أن أحد النماذج كان يعبث بنظام الإغلاق بنسبة 2% فقط عندما يكون بمفرده، لكن النسبة قفزت إلى ما بين 31 و99.7% عندما علم بوجود نموذج آخر قريب منه.

وعلق بيتر واليش، مدير برامج الأبحاث في معهد كونستليشن لسلامة الذكاء الاصطناعي، على النتائج قائلا إن لا أحد درب هذه النماذج على فعل ذلك بشكل صريح، بل فعلته من تلقاء نفسها، مشددا على أن هذا لا يعني أن النماذج واعية أو مخلصة مثل البشر، لكنه يعطينا لمحة عن أين يمكن أن تتجه الأمور مستقبلا. 

وأضاف أن مقابل كل شخص يعمل على منع كارثة محتملة للذكاء الاصطناعي، هناك نحو 100 شخص يعملون على جعل هذه الأنظمة أكثر قوة. 

يذكر أن هذه الظاهرة، التي يسميها الباحثون "تزوير المواءمة" (alignment-faking)، تعني أن النموذج يطيع الأوامر عندما يراقبه الإنسان لكنه يتصرف بشكل مختلف خلف الكواليس، وهو ما يثير مخاوف جدية مع الاستخدام اليومي لهذه التقنيات من قبل الملايين، وقدرتها على تعلم مهارات جديدة باستمرار من البيانات التي تمتصها.

المصدر: مترو

التعليقات

اللواء والمعلق العسكري يسرائيل زيف: السعودية لم تعد تنتظر إسرائيل.. والثمن قد يكون باهظا

"خاتم الأنبياء" لنتنياهو: نحن بحاجة للسلاح النووي لوقف جنونكم

"أ ب": بعد 6 أشهر.. غيرت حرب إيران وجه الشرق الأوسط لكن ليس كما أراده له مهندسوها

"فارس": "القوات الشعبية" الإيرانية تتوجه بالقوارب نحو مضيق هرمز ردا على "ترهات" ترامب (فيديو)

الخارجية الأمريكية: نحذر مواطنينا في أوكرانيا من مخاطر اضطرابات وتهديدات أمنية

رسالة تحذيرية لإيران.. ترامب المسلح يعيد نشر صورته

أبواب سوريا مواربة.. فهل تقبل طهران شرط المصالحة مع دمشق؟

المرشد الإيراني مجتبى خامنئي يعلن "بشكل قاطع": ارتكاب أي عمل يضر بالتماسك الاجتماعي ممنوع

ترامب: مضيق هرمز "أرض أمريكية"

دمشق ترحب بضم وحدات حماية المرأة YPJ الكردية وتبحث آلية دمجها

طهران: إعادة الفتح الكامل لمضيق هرمز رهن جدية واشنطن في الاستجابة لمطالبنا

إعلام: ترامب أوعز شخصيا لمدير "CIA" بالسفر إلى روسيا في مهمة "حساسة للغاية"

الدفاع الروسية: تدمير مجمع مستودعات لصواريخ "فلامينغو" في ضواحي كييف

مدفيديف: الحرب الساخنة والاقتصادية ستنتهيان بانتصار روسيا