علماء روس يطورون نظاما للحد من أخطاء الذكاء الاصطناعي عبر التحقق من المعلومات في الوقت الفعلي

أثار التطور السريع في مجال الذكاء الاصطناعي جدلا جديدا بعد تقارير تشير إلى أن بعض الشبكات العصبية قد تنتج معلومات غير دقيقة أو مضللة في سياقات معينة، ما يطرح تساؤلات حول موثوقيتها.

وردا على طلب إعداد تقرير حول ظاهرة تهم المستخدم، بدأ الذكاء الاصطناعي في بعض الحالات بتقديم معلومات غير دقيقة أو غير موثوقة بشكل متزايد.

ويُعزى ذلك إلى أن الشبكات العصبية لا تقوم بعملية تحقق نقدي من مصادر المعلومات المتاحة على الإنترنت، بل تعتمد على ما هو منشور ضمن بياناتها، وهو ما قد يتضمن محتوى غير دقيق أو مضلل. ونتيجة لذلك، سُجلت حالات أثارت جدلا واسعا، خصوصا في المجال الصحفي، حيث اعتمد بعض الصحفيين على تقارير مولّدة بالذكاء الاصطناعي دون التحقق الكافي من صحتها، إضافة إلى ظهور مشكلات مشابهة في مجالات أخرى، بما في ذلك البحث العلمي.

وفي محاولة لمعالجة هذه الإشكالية، عمل علماء من جامعة Reshetnev University في كراسنويارسك شرق سيبيريا على تطوير منهجية تهدف إلى تقليل المعلومات غير الموثوقة أو المختلقة في إجابات النماذج الذكية. وتعتمد هذه المنهجية على أنظمة تُعرف باسم RAG (التوليد المعزز بالاسترجاع)، حيث يتم إنشاء قاعدة معرفية تعتمد على مصادر موثوقة عالية الجودة، يستند إليها الذكاء الاصطناعي في توليد الإجابات.

وأوضح الباحثون أن هذا النهج يقلل بدرجة كبيرة من احتمالية توليد معلومات غير دقيقة، إلا أن الأخطاء قد لا تزال تحدث بسبب أخطاء إدخال البيانات، أو تناقض الاستعلامات، أو عدم اكتمال قاعدة المعرفة.

إقرأ المزيد

بين نوتات الموسيقى ومصفوفة فيثاغورس.. رؤية الملحن إيغور كورنيليوك الفلسفية

وقام فريق بحثي بإشراف الأستاذة المشاركة أناستاسيا بولياكوفا من قسم الأنظمة الذكية والأتمتة بتحليل الحالات التي يظهر فيها عدم دقة في إجابات الذكاء الاصطناعي، وتطوير مصنّف لتحديدها. كما تم إعداد تعليمات آلية للاختبار، تقوم بإنشاء استعلامات تجريبية ومقارنة الإجابات بمعايير مرجعية، مع تقييم الدقة بناء على مقاييس التشابه الدلالي.

وبناء على نتائج المراحل الأولى، طوّر الباحثون نموذجا أوليا لوحدة مراقبة تعمل في الوقت الفعلي، تقوم بتسجيل الاستعلامات وسياق الحوار، وتقييم مستوى موثوقية الإجابات، وتحديد درجة ثقة لكل نموذج. وفي حال انخفاض مستوى الثقة أو اكتشاف خطأ محتمل، ترسل الوحدة تنبيها إلى المشرف.

ويشير الباحثون إلى أن هذه المنهجية تتميز بمرونتها، إذ يمكن تطبيقها في روبوتات الدردشة وفي الأنظمة الحكومية التي تعتمد على الذكاء الاصطناعي في مجالات متعددة، من الطب إلى المجالات القانونية والدينية.

المصدر: mail.ru