مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

35 خبر
  • المواجهة الأمريكية الإسرائيلية مع إيران بين المد والجزر
  • اتفاق وقف إطلاق النار بين إسرائيل ولبنان
  • العملية العسكرية الروسية في أوكرانيا
  • المواجهة الأمريكية الإسرائيلية مع إيران بين المد والجزر

    المواجهة الأمريكية الإسرائيلية مع إيران بين المد والجزر

  • اتفاق وقف إطلاق النار بين إسرائيل ولبنان

    اتفاق وقف إطلاق النار بين إسرائيل ولبنان

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • مونديال 2026

    مونديال 2026

  • فيديوهات

    فيديوهات

  • "خذوا العبرة من بوتين".. نصيحة رياضية من مسؤول للروس

    "خذوا العبرة من بوتين".. نصيحة رياضية من مسؤول للروس

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

14 نقطة.. وكالة "مهر" تنشر البنود الكاملة لمسودة التفاهم المرتقبة بين إيران والولايات المتحدة

وصفهم بـ"عديمي الشرف".. الحرس الثوري يرد بقسوة على حرب ترامب الكلامية ضد القادة الإيرانيين

نقطة تحول قطرية حاسمة مهدت لتوجه فانس إلى جنيف لتوقيع مذكرة تفاهم أمريكية-إيرانية

"رويترز": الإمارات ستفرج عن مليارات الدولارات لإيران

"تايمز أوف إسرائيل": صفقة أمريكية-إيرانية وشيكة بنسبة نجاح 85 بالمئة

شريف يؤكد توصل طهران وواشنطن لاتفاق سلام نهائي يجري وضع لمسات أخيرة عليه

البنتاغون ينشر الدفعة الثالثة من ملفات الأجسام الطائرة المجهولة (فيديو)

أوقفها ترامب.. شبكة "سي إن إن" تكشف تفاصيل التحضير لمهمة برية للاستيلاء على اليورانيوم الإيراني

أول رد رسمي إيراني على إعلان ترامب التوصل إلى اتفاق لوقف الحرب وموعد توقيعه

"إذا حدث هذا الأمر".. إعلام عبري يتحدث عن إمكانية أن يخدع ترامب إسرائيل مرة أخرى

اعتراف جديد من فانس عن الأزمة بين إسرائيل وأمريكا والخلاف بين ترامب ونتنياهو

ترامب يفتح "الدفاتر القديمة" وعراقجي يتصدر منصة "تروث سوشال" وسط أنباء عن اتفاق

وزير الخارجية الإيراني: نحن أقرب من أي وقت مضى للتوصل لمذكرة تفاهم مع الولايات المتحدة