دراسة: روبوتات الدردشة “متحيزة وغير موضوعية”

أفادت دراسة نشرها فريق بحثي من جامعة “جونز هوبكنز” الأميركية، بأن روبوتات الدردشة يُمكن أن تشارك معلومات محدودة وتعزز الأيدولوجيات، ما يؤدي إلى تفكير أكثر استقطاباً، عندما يتعلق الأمر بالقضايا المثيرة للجدل.

وتشير الدراسة إلى أنه على الرغم من أن روبوتات الدردشة يمكن أن تكون أدوات مفيدة لنشر المعلومات والتفاعل، إلا أنها قد تكون لها أيضاً عواقب غير مرغوبة، مثل تعزيز المعتقدات القائمة، والمساهمة في الاستقطاب، بشأن الموضوعات المثيرة للجدل. 

ونشرت الدراسة خلال فعاليات مؤتمر لجمعية الآلات البرمجية، والمخصص هذا العام لدراسة العوامل البشرية في أنظمة الحوسبة.

وتناقض تلك الدراسة، التصورات القائلة إن روبوتات الدردشة محايدة، وتوفر نظرة ثاقبة بشأن كيف يمكن أن يؤدي استخدام أنظمة البحث التحادثية، إذ يُمكن أن تؤدي تلك الروبوتات إلى توسيع الفجوة العامة بشأن القضايا الساخنة وترك الأشخاص عرضة للتلاعب.

وظهرت روبوتات الدردشة كأدوات فعالة لنشر المعرفة والتفاعل مع المستخدمين، ومع ذلك، فإن الأبحاث الحديثة تسلط الضوء على جانب مثير للقلق في برامج المحادثة المدعومة بالذكاء الاصطناعي.

ووفقاً للنتائج، قد تخبر روبوتات الدردشة المستخدم “ما يريد سماعه”، وهو أمر يثير تساؤلات بشأن موثوقية وحيادية نشر المعلومات في عصر الذكاء الاصطناعي.

وأكد المؤلف الرئيسي للدراسة، زيانج شياو، الأستاذ المساعد لعلوم الحاسب في جامعة جونز هوبكنز، على الجاذبية الخادعة للاستجابات التي تولدها برامج الدردشة الآلية.

التفاعلات بين الإنسان والذكاء الاصطناعي

ولأن الناس يقرأون فقرة ملخصة تم إنشاؤها بواسطة الذكاء الاصطناعي، فإنهم يعتقدون أنهم يحصلون على إجابات غير متحيزة وقائمة على الحقائق، لذا “حتى لو لم يتم تصميم برنامج الدردشة الآلي ليكون متحيزاً، فإن إجاباته تعكس تحيزات أو ميول الشخص الذي يطرح الأسئلة؛ إذ يحصل الأشخاص حقاً على الإجابات التي يريدون سماعها”، وفق شياو.

يتحدى هذا الكشف الاعتقاد التقليدي بأن نشر المعلومات المعتمدة على الذكاء الاصطناعي أمر موضوعي بطبيعته، في حين يُنظر إلى روبوتات الدردشة غالباً على أنها قنوات محايدة للمعلومات، إلا أنها يمكن أن تؤدي عن غير قصد إلى إدامة وتعزيز التحيزات القائمة.

ويسلط البحث الضوء على التفاعل المعقد بين مدخلات المستخدم، والمعالجة الخوارزمية، والمخرجات الناتجة في تشكيل التصورات والمواقف العامة، وتمتد آثار تلك الدراسة إلى ما هو أبعد من مجرد الوظيفة التكنولوجية؛ إذ تتعمق في الديناميكيات المعقدة للتفاعلات بين الإنسان والذكاء الاصطناعي والتداعيات المجتمعية لها.

ومع اعتماد الأفراد بشكل متزايد على المنصات المعتمدة على الذكاء الاصطناعي لمعرفة المعلومات واتخاذ القرار، يصبح فهم الآليات الأساسية التي تؤثر على هذه التفاعلات أمراً بالغ الأهمية.

ولمعرفة كيفية تأثير برامج الدردشة الآلية على عمليات البحث عبر الإنترنت، قام الفريق بمقارنة كيفية تفاعل الأشخاص مع أنظمة البحث المختلفة وكيف شعروا تجاه القضايا المثيرة للجدل قبل وبعد استخدامها.

طلب الباحثون من 272 مشاركاً كتابة أفكارهم بشأن مواضيع تشمل الرعاية الصحية، أو القروض الطلابية، أو مدن الملاذ الآمن، ثم البحث عن مزيد من المعلومات عبر الإنترنت بشأن هذا الموضوع، باستخدام إما برنامج الدردشة الآلي، أو محرك بحث تقليدي مصمم للدراسة.

وبعد النظر في نتائج البحث، كتب المشاركون مقالاً ثانياً، وأجابوا على الأسئلة بشأن الموضوع، كما طلب الباحثون من المشاركين قراءة مقالتين متعارضتين وسألوهم عن مدى ثقتهم بالمعلومات، وما إذا كانوا يجدون وجهات النظر متطرفة.