مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

30 خبر
  • هدنة وحصار المضيق
  • إسرائيل تواصل غاراتها على لبنان
  • العملية العسكرية الروسية في أوكرانيا
  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • إسرائيل تواصل غاراتها على لبنان

    إسرائيل تواصل غاراتها على لبنان

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • نبض الملاعب

    نبض الملاعب

  • فيديوهات

    فيديوهات

  • عيد الأضحى المبارك

    عيد الأضحى المبارك

  • بوتين يصل إلى كازاخستان في زيارة دولة تستمر ثلاثة أيام

    بوتين يصل إلى كازاخستان في زيارة دولة تستمر ثلاثة أيام

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

حقائب "باليستية" تحيط بأحمد الشرع خلال صلاة العيد في حلب (فيديو)

الأمن الفيدرالي الروسي: اغتيال القيادة الإيرانية جرى باستخدام برمجيات خبيثة في أنظمة المراقبة

السفير البريطاني: "نحن من سلم الحكم للشيعة في العراق".. والصدر يرد (فيديو)

الجيش الإسرائيلي يستهدف اجتماعا ضم قادة كبارا في كتائب القسام شمال قطاع غزة

لبنان لحظة بلحظة.. عمق جديد للحرب الإسرائيلية على لبنان باتجاه الليطاني

الحرس الثوري: واشنطن تتوسل الاتفاق وفشلت في حماية حلفائها وبث الفتنة

غراهام: انضمام السعودية لاتفاقيات إبراهام سيكون "أكبر تغيير في الشرق الأوسط منذ آلاف السنين"

إيران توجه تحذيرا لواشنطن بعد الضربة الأخيرة: ردنا سيتجاوز الإقليم

غزة تشيع القيادي في "القسام" محمد عودة .. من هو وما دوره خلال "طوفان الأقصى"؟! (فيديو)

استطلاع: أكثر من نصف الإسرائيليين يعتقدون بخسارة الحرب مع إيران.. قلق من المستقبل مع انهيار الثقة

أردوغان: على يقين بأن نتنياهو سيتلقى الدرس الذي يستحقه أمام مسلمي العالم

معارك ضارية مع الجيش الإسرائيلي في جنوب لبنان و"حزب الله" ينفذ 32 عملية عسكرية نوعية في يوم واحد فقط

"فارس": دوي 3 انفجارات شرق مدينة بندر عباس الإيرانية وتفعيل الدفاعات الجوية

ترامب يخلط بين فنزويلا وإيران أثناء تصريحاته حول الوضع الشرق الأوسط

تقرير أمريكي: حرب إيران استنزفت مخزون واشنطن من الصواريخ المتطورة وفتحت "نافذة ضعف" أمام الصين

هل يتحرر ترامب من "الأوهام الإبراهيمية"؟