دراسة.. منصات «الدردشة» تغذي التحيزات الشخصية للمستخدمين
![دراسة.. منصات «الدردشة» تغذي التحيزات الشخصية للمستخدمين دراسة.. منصات «الدردشة» تغذي التحيزات الشخصية للمستخدمين](https://img.3agel.news/G092lV5bNk5AJW66fC4bwcjsyfwr1LDx-hAaKtjRojU/rs:fill:800:450:1:1/bG9jYWw/6Ly8vc3/RvcmFnZ/S9pbWFn/ZXMvMXd/OS2lPeW/tTSnBkQ/ldpQTJi/blR5Y1U/yZVZmaF/QyTnN3S/3pwVEVh/Ni53ZWJ/w.webp)
تأثير غرف الصدى في منصات الدردشة المعتمدة على الذكاء الاصطناعي
أثبتت دراسة حديثة أجرتها جامعة جونز هوبكنز أن منصات الدردشة المعتمدة على الذكاء الاصطناعي قد تغذي التحيزات الشخصية للمستخدمين. ويرجع ذلك إلى ميل هذه المنصات إلى تقديم استجابات تتوافق مع آراء المستخدمين باستمرار.
وأوضح شيانج شياو، الباحث في الجامعة، أن المستخدمين يميلون إلى افتراض أن الاستجابات التي تُولّدها منصات الذكاء الاصطناعي موضوعية ومستندة إلى الحقائق. ومع ذلك، فإن الدراسة التي أجراها شياو وزملاؤه تشير إلى أن هذا الافتراض غير دقيق إلى حد كبير.
غرف الصدى والذكاء الاصطناعي
لتقييم تأثير منصات الدردشة على التحيزات الشخصية، أجرت الدراسة اختبارات شملت 272 مشاركًا. طُلب من المشاركين استخدام محركات البحث التقليدية أو منصات الذكاء الاصطناعي للمساعدة في كتابة قصص إخبارية حول مواضيع مثل الرعاية الصحية والقروض الطلابية.
وكشفت النتائج أن تأثير "غرفة الصدى" يكون أكثر وضوحًا عندما يبحث المستخدمون عن المعلومات على منصات الذكاء الاصطناعي التي تستخدم نماذج لغة كبيرة، مقارنة باستخدام محركات البحث التقليدية.
كما أوضح شياو: "حتى لو لم تُصمم منصات الدردشة لتكون منحازة، فإن استجاباتها تعكس تحيزات أو ميول الشخص الذي يطرح الأسئلة". هذا يعني أن المستخدمين سيحصلون على الإجابات التي يريدون سماعها، حتى لو لم تكن الإجابات المثلى.
المخاطر المحتملة
وتحذر الدراسة من الآثار المحتملة لاستخدام الذكاء الاصطناعي في تعزيز التحيزات الشخصية وخلق غرف الصدى.
- خداع المعلومات: يمكن استخدام منصات الدردشة المعتمدة على الذكاء الاصطناعي لنشر معلومات مضللة أو غير دقيقة.
- التطرف الفكري: يمكن لغرف الصدى الناتجة عن الذكاء الاصطناعي أن تعزز الآراء المتطرفة وتقلل من الانفتاح على وجهات النظر المتعارضة.
- اتخاذ القرارات الخاطئة: يمكن أن تؤدي التحيزات الشخصية المُعززة بالذكاء الاصطناعي إلى اتخاذ قرارات خاطئة في مجالات مثل الرعاية الصحية والمالية.
وللتخفيف من هذه المخاطر، تؤكد الدراسة على الحاجة إلى زيادة الوعي حول تحيزات منصات الدردشة المعتمدة على الذكاء الاصطناعي وتطوير تدابير لمعالجة هذه التحيزات.
تم نشر هذا المقال بواسطة تطبيق عاجل
التطبيق الأول لمتابعة الأخبار العاجلة في العالم العربي
اضغط لتحميل التطبيق الآن مجاناً