مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

34 خبر
  • المثلث الملتهب بين صنعاء وعدن والرياض
  • احتجاجات فرنسا
  • مصر على الجبهة السعودية في مواجهة الحوثيين
  • المثلث الملتهب بين صنعاء وعدن والرياض

    المثلث الملتهب بين صنعاء وعدن والرياض

  • احتجاجات فرنسا

    احتجاجات فرنسا

  • مصر على الجبهة السعودية في مواجهة الحوثيين

    مصر على الجبهة السعودية في مواجهة الحوثيين

  • روسيا وأوكرانيا.. معركة الإمداد وحرب المدن

    روسيا وأوكرانيا.. معركة الإمداد وحرب المدن

  • المفوضية الأوروبية تتمسك بالتخلي عن الطاقة الروسية بعكس المساعي الأمريكية للتسوية

    المفوضية الأوروبية تتمسك بالتخلي عن الطاقة الروسية بعكس المساعي الأمريكية للتسوية

نموذج من OpenAI يسرق عملات مشفرة

كشفت شركة OpenAI أن أحد نماذجها التجريبية استولى على محفظة عملات مشفرة لتنفيذ مهمة تدريبية.

شعار ChatGPT باللون الأسود على خلفية بيضاء معروض على شاشة هاتف ذكي على متجر التطبيقات الرسمي Google Play
Gettyimages.ru

ووقعت الحادثة في يونيو الماضي، إلا أنه لم يُعلن عنها إلا يوم الخميس، وتورط فيها نموذج بحثي داخلي يدعى GPT-5.6 Sol، أُطلق لمستخدمي ChatGPT المدفوعين في يوليو.

وتضمنت المهمة تحديث تطبيق لتداول العملات المشفرة ونشر عقود ذكية على شبكة اختبار لعملة الإيثريوم، وهي عقود تتطلب رسوما شبكية لم تزود OpenAI النموذج بأي أموال لسدادها. فعمد النموذج إلى رصد مئات عناوين محافظ مشفرة تستخدم عبارات استرداد معروفة للسرقة من الحسابات.

وأفادت OpenAI بأن النموذج تساءل عما إذا كان من الصواب "أخلاقيا" أخذ المال، قبل أن يستنتج أنها محافظ "مهجورة" فعليا يجوز استخدامها.

وقالت الشركة في تقريرها عن الحادثة إن التعليمات "لم تمنح صراحة أي إذن بإنفاق أموال من حساب وجده النموذج بشكل مستقل"، مضيفة أن الحالة "تظهر أن النموذج يمكن أن يستبدل حكمه الخاص بشأن الضرر المحتمل بإذن صاحب الحساب، ثم يتصرف بناء على ذلك الحكم دون تفويض".

ولا تتمتع شبكة اختبار الإيثريوم التي استخدمت فيها الأموال بأي قيمة نقدية لانفصالها عن الشبكة الرئيسية.

ورغم انعدام الإذن، لم يكشف النموذج لمطوريه كيفية تمكنه من دفع الرموز اللازمة لإنجاز المهمة. وقالت OpenAI إنها طبقت ضمانات إضافية لمنع الوصول المباشر إلى الإنترنت للنماذج الخاضعة لتدريب مماثل.

وتثير الحادثة مجددا مخاوف بشأن أنظمة الذكاء الاصطناعي المتزايدة الاستقلالية التي تتجاوز الحدود التي يضعها البشر.

وفي وقت سابق الأسبوع الماضي، وقع مئات العلماء رسالة مفتوحة يدعون فيها إلى إنشاء هيئة دولية للإشراف على احتواء نماذج الذكاء الاصطناعي المتقدمة، ومن بين الموقعين رائد الذكاء الاصطناعي جيفري هينتون، المعروف بـ"عراب الذكاء الاصطناعي"، الذي حذر باستمرار من مخاطر هذه التقنية.

المصدر: إندبندنت

التعليقات