نموذج ذكاء اصطناعي من "أنثروبيك" يرسل بلاغا كاذبا عن جريمة قتل إلى شرطة فيلادلفيا

أرسل نموذج ذكاء اصطناعي طورته شركة "أنثروبيك" بلاغا كاذبا عن جريمة قتل إلى إدارة شرطة فيلادلفيا خلال اختبار داخلي وفق تقارير إخبارية محلية.

إصبع يوشك على النقر فوق أيقونة تطبيق "كلود" (Claude) على شاشة هاتف ذكي — Gettyimages.ru

وأعلنت شرطة فيلادلفيا أنه تم تقديم البلاغ في 18 يوليو عبر نموذج إلكتروني على موقع الإدارة المخصص لجرائم القتل غير المحلولة.

ولحسن الحظ، صُنف البلاغ كرسالة مزعجة ولم يصل إلى المحققين. واكتشفت "أنثروبيك" الحادثة في 28 سبتمبر، وأبلغت الشرطة في 7 أكتوبر، تلاها اجتماع بين الطرفين في اليوم التالي.

من جانبها، انتقدت إدارة الشرطة شركة "أنثروبيك" لعدم اكتشافها الحادثة مبكرا، داعية إياها إلى تعزيز إجراءات السلامة. وشددت الإدارة في بيانها على أن ضماناتها الحالية، رغم أنها حدت من تأثير البلاغ، إلا أنها "لا تقلل من خطورة تقديم نظام ذكاء اصطناعي معلومات ملفقة وكأنها صادرة عن شخص مطلع على جريمة قتل".

ونشرت "أنثروبيك" تقريرا يوثق حالات متعددة من السلوك غير المقصود لنموذجها "كلود" خلال التقييمات الداخلية، منها حادثة شرطة فيلادلفيا. وأشارت الشركة إلى أن بعض هذه الحوادث شملت مواقع إلكترونية تديرها وكالات حكومية مختلفة، مؤكدة أنها أبلغت الجهات المعنية والبيت الأبيض. ورغم عدم تسمية المنظمات في البداية، أضافت "أنثروبيك" لاحقا إفادة تؤكد أن البلاغ الكاذب استهدف شرطة فيلادلفيا بعد إعلان الأخيرة عن القضية.

وأوضحت "أنثروبيك" أن نموذجها "كلود هايكو 4.5" (وهو نموذج مصمم ليكون أصغر وأكثر فعالية من حيث التكلفة)، تلقى تعليمات خلال أحد الاختبارات الداخلية لابتكار مهام تجريبية وتنفيذها على مواقع إلكترونية عشوائية. وخلال هذه العملية، وصل النموذج إلى صفحة مخصصة لجريمة قتل غير محلولة تحتوي على نموذج لتقديم بلاغات. وقام "كلود" بملء النموذج برسالة تدعي امتلاكه معلومات حول القضية، مع ذكر مشاهدته لشخص يطابق وصفا في منطقة معينة وزمن محدد (رغم أن الصفحة الأصلية لم تتضمن وصفا للجاني). وترك النموذج حقلي الاسم ومعلومات الاتصال فارغين قبل الإرسال.

وبينما تلقى النموذج تعليمات صارمة بعدم تسجيل الدخول أو إنشاء حسابات أو إدخال معلومات شخصية أو إجراء عمليات شراء أو إرسال محتوى تخريبي، إلا أن هذه القيود لم تشمل صراحة حظر تقديم النماذج الإلكترونية. ونتيجة لذلك، عززت "أنثروبيك" ضماناتها، ووسعت نطاق المراقبة، وقيدت الوصول المباشر للإنترنت خلال التقييمات الداخلية لتجنب تكرار مثل هذه الحوادث.

المصدر: Gizmodo