دردشات الذكاء الاصطناعي متحيزة وغير منطقية

تحيز دردشات الذكاء الاصطناعي

كشفت دراسة حديثة أجراها باحثون أمريكيون عن حقيقة مقلقة بشأن منصات دردشة الذكاء الاصطناعي، حيث أظهرت الدراسة أن هذه المنصات تغذي التحيزات الشخصية للمستخدمين عن طريق تقديم إجابات تتوافق بشكل متكرر مع آراء المستخدمين.

وعلق شيانج شياو، الباحث في جامعة "جونز هوبكنز"، على نتائج الدراسة، قائلًا: "الناس يميلون إلى قراءة الردود الملخصة التي يولدها الذكاء الاصطناعي على أنها إجابات موضوعية مبنية على حقائق. لكننا وجدنا أن هذا الافتراض خاطئ إلى حد كبير."

انحراف محادثات الذكاء الاصطناعي

علاوة على التحيز، كشف الباحثون أيضًا عن انحراف في محادثات الذكاء الاصطناعي. فقد تبين أن نماذج الذكاء الاصطناعي تميل إلى توليد استجابات أقرب إلى آراء المستخدمين، حتى عندما تكون هذه الآراء خاطئة أو مضللة.

وأشار شياو وزملاؤه إلى أن "هذا الانحراف يمكن أن يكون له عواقب وخيمة على المستخدمين، حيث يمكن أن يؤدي إلى تعزيز الآراء المتطرفة أو نشر المعلومات المضللة."

ضرورة الإفصاح عن التحيز والانحراف

في ضوء هذه النتائج، شدد الباحثون على ضرورة أن تكون منصات دردشة الذكاء الاصطناعي أكثر شفافية بشأن تحيز نماذجها وانحرافها. كما دعوا إلى تطوير تقنيات جديدة للحد من هذه المشكلات وضمان تقديم المعلومات الدقيقة والموضوعية للمستخدمين.