مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

16 خبر
  • مونديال 2026
  • العملية العسكرية الروسية في أوكرانيا
  • المواجهة الأمريكية الإسرائيلية مع إيران بين المد والجزر
  • مونديال 2026

    مونديال 2026

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • المواجهة الأمريكية الإسرائيلية مع إيران بين المد والجزر

    المواجهة الأمريكية الإسرائيلية مع إيران بين المد والجزر

  • اتفاق وقف إطلاق النار بين إسرائيل ولبنان

    اتفاق وقف إطلاق النار بين إسرائيل ولبنان

  • "يويفا" أمام اختبار صعب بعد طلب ريال مدريد ضد برشلونة

    "يويفا" أمام اختبار صعب بعد طلب ريال مدريد ضد برشلونة

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

ترامب يأمر نتنياهو وقف الهجوم ويخاطبه: من الأفضل أن تكون حذرا جدا وقد تجد نفسك وحيدا في مواجهة إيران

السعودية.. سماع دوي انفجارات وبيان عاجل من منصة الإنذار المبكر في حالات الطوارئ

موقع إيراني: وقعنا في الفخ

الحرس الثوري يهدد دول المنطقة: اللعبة الخطيرة ستطال كل مواقع الطاقة

اتهامات إسرائيلية تلاحق فانس وتسريبه لأردوغان خطة الإطاحة بالنظام الإيراني

ترامب: سنعلن انتصارا كاملا على إيران خلال أسبوعين

فانس: هناك تباينات بين واشنطن وتل أبيب ونقترب من تسوية طويلة الأمد للملف النووي الإيراني

غضب إسرائيلي متصاعد: الليلة إيران أنهت دور إسرائيل في المنطقة وحولتها لـ"ملطشة" الشرق الأوسط

قآاني: "الحزام الأمني الجديد للمقاومة" سيكون من هرمز إلى باب المندب ومن الخليج إلى البحر الأحمر

تحطم مروحية "أباتشي" أمريكية قرب مضيق هرمز

مسؤولون إسرائيليون: ترامب أخضع نتنياهو والجيش الإسرائيلي أوقف هجمات كبيرة على إيران

ترامب يكشف مصير طاقم مروحية أمريكية تحطمت قرب هرمز

تحول استراتيجي إسرائيلي.. البنية التحتية الإيرانية في خطر

تحذير إيراني جديد حول معادلة "البنى التحتية مقابل البنى التحتية" في دول المنطقة

نيبينزيا: رسالة زيلينسكي "استفزاز فظ" وليست مبادرة سلام