تبعیض پنهان هوش مصنوعی: به کاربران ایرانی پاسخ های ضعیف تری می دهد

این مطالعه که توسط پژوهشگران آزمایشگاه رسانه دانشگاه MIT انجام شده، نشان می دهد که پیشرفته ترین چت بات های هوش مصنوعی (از جمله GPT-4 شرکت OpenAI، - به گزارش جماران؛ به نقل از دیجیاتو، مدل های زبانی بزرگ (LLMs) همیشه به عنوان ابزارهایی برای دموکراتیزه کردن دسترسی به اطلاعات در سراسر جهان معرفی شده اند؛ سیستم هایی که قرار است فارغ از پیشینه یا موقعیت جغرافیایی، دانش را در رابط کاربری ساده ای در اختیار همه قرار دهند.

با این حال، پژوهش جدید مرکز ارتباطات سازنده (CCC) دانشگاه MIT نشان می دهد که این سیستم های هوش مصنوعی ممکن است به برخی کاربران ازجمله ایرانی ها پاسخ های ضعیف تری بدهند.

این مطالعه که توسط پژوهشگران آزمایشگاه رسانه دانشگاه MIT انجام شده، نشان می دهد که پیشرفته ترین چت بات های هوش مصنوعی (از جمله GPT-4 شرکت OpenAI، مدل Claude 3 Opus شرکت Anthropic و Llama 3 متا) گاهی پاسخ هایی با دقت کمتر و غیرواقعی تر به کاربرانی می دهند که تسلط پایین تری به زبان انگلیسی دارند، از تحصیلات رسمی کمتری برخوردارند یا اصالتاً خارج از ایالات متحده زندگی می کنند.

الینور پول-دایان ، نویسنده اصلی مقاله دراین باره می گوید: انگیزه ما چشم انداز کمک این مدل ها به رفع نابرابری اطلاعاتی در جهان بود، اما تا زمانی که مطمئن نشویم سوگیری ها و تمایلات مضر این مدل ها برای همه کاربر