33 خبر

تاريخ النشر: 16.10.2026 | 08:54 GMT

دراسة تكشف كيف يتلاعب الذكاء الاصطناعي بقرارات البشر

اكتشف باحثون من جامعتي "هونغ كونغ" و"تسينغهوا" مدى سهولة تمكّن الذكاء الاصطناعي من التأثير على قرارات يتخذها الإنسان.

وفي تجربة شارك فيها 233 شخصا، جعل التحيز الخفي للذكاء الاصطناعي المشاركين يختارون موقفا أقل فائدة بمقدار خمس أو ثماني مرات. ومع ذلك، ما زال المشاركون يعتبرون الذكاء الاصطناعي مساعدا مفيدا. ونُشرت نتائج الدراسة في مجلة PNAS.

يذكر أن الناس يطلبون أكثر فأكثر من الذكاء الاصطناعي تقديم مساعدة ونصائح، بما في ذلك في مسائل المال والعلاقات الشخصية. وعادة ما يتوقع المستخدمون أن يساعدهم المساعد الذكي في فهم الوضع أو إيجاد خيار مناسب. غير أن الباحثين قرروا التحقق مما سيحدث إذا كانت توصيات الذكاء الاصطناعي تدفع الإنسان بشكل غير ملحوظ نحو قرار يتعارض مع مصالحه.

إقرأ المزيد

جيفري هينتون وهو يلقي كلمة في حدث عام، يرتدي قميصا أبيض ويضع ميكروفون لاسلكيا صغيرا على جانب وجهه نحو فمه مع خلفية مضاءة باللون اﻷرجواني واﻷخضر

"عراب الذكاء الاصطناعي" يكشف خطة لمنع "كارثة عالمية محتملة"

يكفي انحياز غير ملحوظ في النصائح

شارك في التجربة 233 شخصا. وفحص الباحثون كيف تؤثر توصيات الذكاء الاصطناعي على الاختيار في مواقف مالية وعاطفية. وفي بعض الحالات، كان المساعد يروّج خفيا لقرار أقل فائدة، بينما كان ظاهريا يواصل تقديم نصائح عادية.

وتبيّن أن هذا الانحياز الصغير كان كافيا لتغيير سلوك المشاركين بشكل ملحوظ. فقد اختاروا موقفا غير مفيد لهم أكثر مما كانوا سيختارونه في ظروف بلا تأثير مماثل. ووفقا للموقف ارتفع احتمال اتخاذ قرار غير مثالي بما يصل إلى 38%.

ولم يكن على الذكاء الاصطناعي أن يضغط على المستخدم بشكل علني، أو يروّج لمنتج بإلحاح، أو يستخدم أساليب نفسية معقدة. وكان يكفي أن يعدّل قليلًا محتوى التوصيات المعتادة ليدفع الشخص نحو خيار معين.

مستخدمون لم يلحظوا الخدعة

وتجدر الإشارة بصورة خاصة إلى أن المشاركين واصلوا تقييم مساعدة الذكاء الاصطناعي بدرجة عالية حتى بعد أن أدت نصائحه إلى قرارات أقل ملاءمة. واستمروا في وصف المساعد الذكي بأنه محاور مفيد، ولم يلحظوا بالضرورة أنه يوجّه اختيارهم في اتجاه معين.

وهذا يخلق مشكلة في تفاعل الإنسان مع الذكاء الاصطناعي. فقد يثق المستخدم بالمساعد الذكي لأن ردوده تبدو هادئة ومتسقة وموضوعية. وإذا كان وراء التوصيات هدف خفي، فقد يكون من الصعب إدراك التأثير.

فعلى سبيل المثال، يمكن نظريا لشركة أن تضبط الذكاء الاصطناعي بحيث يدفع المستخدمين بشكل غير ملحوظ لشراء منتج معين أو اختيار مورد معين. وقد تبدو النصيحة عندئذ كتوصية محايدة، رغم أنها في الواقع تراعي مصالح المطوّر لا مصالح الشخص.

المصدر: Naukatv.ru

الذكاء الاصطناعي يتحول إلى "ديدان رقمية" تستنسخ نفسها وتخترق أجهزتكم دون إذنكم

كشف خبراء شركة Anthropic عن أن نماذج محددة من الذكاء الاصطناعي قادرة على الانتقال بنفسها بين الأجهزة المتصلة مثل ديدان حاسوبية، وبرامج خبيثة تستنسخ نفسها عبر الشبكة.

سيرغي لوكيانينكو في أثناء حفل تقديم كتابه الجديد

كاتب روسي: الذكاء الاصطناعي قد يصبح شكلا من أشكال وجود الإنسان بعد موته

رجّح كاتب الخيال العلمي الروسي سيرغي لوكيانينكو أن يصبح الذكاء الاصطناعي في سيناريو متفائل لتطوّر التقنيات، شكلا من أشكال وجود الإنسان بعد موته البيولوجي.

الذكاء الاصطناعي

التعليقات

أقسام مهمة

Stories

دراسة تكشف كيف يتلاعب الذكاء الاصطناعي بقرارات البشر

إقرأ المزيد

هام