أثار طرح قوقل لميزة “النظرات العامة” الجديدة، التي تقدم ملخصات تم إنشاؤها بواسطة الذكاء الاصطناعي لنتائج البحث، جدلًا واسعًا حول موثوقيتها وإمكانية نشرها للمعلومات الخاطئة.
على سبيل المثال: عندما سئل الذكاء الاصطناعي عما إذا كانت القطط موجودة على القمر ادعى محرك البحث، الذي أعيد تجهيزه بشكل غير صحيح: “نعم، لقد التقى رواد الفضاء بقطط على القمر، ولعبوا معهم، وقدموا لهم الرعاية”، حتى إنه نسب اقتباسات كاذبة إلى نيل أرمسترونج وباز ألدرين.
تعد مثل هذه الأخطاء جزءًا من نمط متواصل منذ إطلاق ميزة “النظرات العامة” للذكاء الاصطناعي؛ ما يثير المخاوف بشأن موثوقية هذه الاستجابات الفورية.
مخاوف بشأن المعلومات المضللة
وأعرب العديد من الخبراء عن قلقهم بشأن إمكانية نشر المعلومات الخاطئة من خلال ملخصات الذكاء الاصطناعي؛ حيث انتقدت “ميلاني ميتشل”، باحثة الذكاء الاصطناعي في معهد سانتا الأمريكي، عدم قدرة الذكاء الاصطناعي على تفسير الاقتباس بشكل صحيح، قائلة: “نظرًا لمدى عدم جدارته بالثق، أعتقد أن ميزة “نظرة عامة على الذكاء الاصطناعي” هذه غير مسؤولة للغاية ويجب إيقافها”.
كيفية تحسين ميزة معلومات الذكاء الاصطناعي؟
ردًا على ذلك أعلنت جوجل عن أنها تتخذ “إجراءات سريعة” لإصلاح مثل هذه الأخطاء وتحسين الميزة. لكنها أكدت أن النظام يعمل بشكل جيد، مستشهدة باختبارات مكثفة قبل الإصدار.
ومع ذلك فإن العشوائية المتأصلة في نماذج لغة الذكاء الاصطناعي تجعل إعادة إنتاج الأخطاء أمرًا صعبًا. إذ تتنبأ هذه النماذج بالاستجابات بناءً على بيانات التدريب الخاصة بها؛ ما يؤدي إلى مشكلة تُعرف باسم “الهلوسة”؛ حيث يلفق الذكاء الاصطناعي المعلومات.
ومن ناحية أخرى اختبرت وكالة “أسوشيتد برس” الذكاء الاصطناعي الخاص بقوقل عن طريق طرح العديد من الأسئلة. ووجدت إجابات شاملة مثيرة للإعجاب وأخطاء كبيرة.
مخاطر الاستفسارات العاجلة
وحذرت إميلي إم بندر؛ أستاذ اللغويات في جامعة واشنطن، من أن أحد الجوانب المثيرة للقلق هو التأثير المحتمل في الاستفسارات خلال حالات الطوارئ.
وأشارت إلى أنه في المواقف العاجلة من المرجح أن يقبل المستخدمون الإجابة الأولى التي يرونها، الأمر الذي قد يكون خطيرًا إذا كان يحتوي على أخطاء.
كما سلطت إميلي، التي كانت حذرت جوجل من هذه المخاطر لسنوات، الضوء على قضايا أوسع تتعلق بالتحيز والمعلومات الخاطئة التي تضيفها أنظمة الذكاء الاصطناعي المدربة إلى مجموعات كبيرة من البيانات.
بالإضافة إلى ذلك هناك مخاوف بشأن التأثير في تبادل المعرفة عبر الإنترنت. وأكدت إميلي إم بندر أن الاعتماد على الذكاء الاصطناعي لاسترجاع المعلومات يمكن أن يقلل من قدرة المستخدمين على البحث عن المعرفة، وتقييم المعلومات عبر الإنترنت بشكل نقدي، والتفاعل مع المجتمعات عبر الإنترنت.
ما تهديدات ميزة النظرات العامة؟
تهدد النظرات العامة للذكاء الاصطناعي من Google أيضًا بتعطيل حركة المرور إلى مواقع الويب الأخرى التي تعتمد على محرك البحث.
ويراقب المنافسون، مثل: ChatGPT وPerplexity AI من OpenAI، الوضع عن كثب؛ حيث ينتقد بعض الخبراء طرح Google المتسرع لهذه الميزة.
وعلق دميتري شيفيلينكو؛ كبير مسؤولي الأعمال في شركة Perplexity، قائلًا: “هناك الكثير من الأخطاء في الجودة”.
وبينما تهدف ميزة “النظرات العامة حول الذكاء الاصطناعي” إلى تعزيز تجربة البحث. فإن انتشار الأخطاء واحتمال نشر المعلومات الخاطئة أثار مخاوف كبيرة بين الخبراء والمستخدمين على حد سواء.