مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

40 خبر
  • المسار الدبلوماسي لحل الأزمة الأوكرانية
  • رياضة
  • العملية العسكرية الروسية في أوكرانيا
  • المسار الدبلوماسي لحل الأزمة الأوكرانية

    المسار الدبلوماسي لحل الأزمة الأوكرانية

  • رياضة

    رياضة

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • فيديوهات

    فيديوهات

  • صدام بريطانيا وإسرائيل

    صدام بريطانيا وإسرائيل

  • حرب الخليج

    حرب الخليج

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

الحرس الثوري الإيراني يعرض مشاهد للغواصة الأمريكية التي تم "اصطيادها" في مضيق هرمز

الحرس الثوري يعلن "اصطياد" غواصة ذكية مسيرة أمريكية في مضيق هرمز

"هل أنتم جادون؟".. عراقجي يعلق على الحل الأمريكي "المبتكر" بعد 47 عاما من العقوبات والحرب

بوتين يقبل خطة واشنطن دون تعديل.. هل تملك كييف "الحصانة" لرفض التسوية الأمريكية؟

أول تعليق من أبو ظبي على تقارير إسرائيلية حول "تحذير بن زايد لنتنياهو" قبل 7 أكتوبر

مفاجآت مدوية في قائمة المرشحين للكرة الذهبية 2026

"حوتكم الذكي أصبح بحوزتنا".. فيديو ساخر يستهزئ بالغواصة الأمريكية التي تم "اصطيادها" في مضيق هرمز

"فوكس نيوز": الجيش الأمريكي ينفذ تهديده بضرب ناقلات نفط إيرانية قرب جزيرة خرج ومدينة جاسك

لافروف: بوتين قبل مبادئ التسوية الأمريكية كما نقلها ويتكوف دون تعديل

الخارجية الإماراتية تصدر بيانا ردا على تقارير إسرائيلية حول "تحذير بن زايد لنتنياهو" قبل 7 أكتوبر

الدفاعات الجوية الأردنية تتصدى لموجة صواريخ إيرانية (فيديو)

تحذير روسي من خطر "داهم" يواجه السودان بسبب خطة بولس ويكشف سبب غضب مصر والسعودية من مبعوث ترامب

"لا خيار سوى الرد".. ساعر يستنكر عقوبات لندن على تل أبيب ويتهمها بالتدخل في الانتخابات الإسرائيلية

الجيش الروسي يسيطر على بلدة أخرى في منطقة محاصرة الوحدات الأوكرانية بخاركوف (فيديو)

"عار عليك".. وعد رئيسة المفوضية الأوروبية الجديد لزيلينسكي يثير وابلا من الانتقاد ضدها

أسعار النفط تتخطى حاجز الـ100 دولار للمرة الثانية خلال أقل من 24 ساعة

خبير عسكري يجمل تأثيرات الضربة الروسية الكبيرة على مصنع الصواريخ في كييف على قدرات القوات الأوكرانية

الجامعة العربية تصعد ضد الحوثيين.. ماذا قالت عن أمن السعودية والبحر الأحمر؟