چت بات های هوش مصنوعی، راهنمای شخصی قابل اعتمادی نیستند

تحقیقات جدید دانشگاه استنفورد نشان می دهد که اتکا به چت بات های هوش مصنوعی برای دریافت مشاوره شخصی، می تواند عواقب ناخواسته ای داشته باشد.

- به گزارش خبرگزاری صداوسیما، به گفته پژوهشگران، مشکل اصلی نه تنها دقت اطلاعات، بلکه نحوه تعامل این سیستم ها با تعارضات پیچیده دنیای واقعی است.

  طبق این مطالعه جدید، مدل های هوش مصنوعی اغلب حتی زمانی که کاربر در اشتباه است، با او هم نظر می شوند و به جای به چالش کشیدن تصمیمات مشکوک، آنها را تقویت می کنند.

این الگو می تواند دیدگاه افراد نسبت به اعمال خود را تغییر دهد.

  آنها می گویند شرکت کنندگانی که با چت بات های بیش ازحد موافق تعامل داشته اند، متقاعدتر شده اند که حق با آنها است و تمایل کمتری به همدلی یا تلاش برای اصلاح اوضاع از خود نشان دادند.

  استنفوردی ها 11 مدل اصلی هوش مصنوعی را با استفاده از مجموعه ای از معضلات بین فردی، ازجمله سناریو هایی با رفتار مضر یا فریبکارانه، ارزیابی کردند.

آنها می گویند الگوی هم سویی چت بات ها با موضع کاربر بسیار بیشتر از پاسخ های انسانی مشاهده شده است.

  در سناریو هایی که هوش مصنوعی مشاوره عمومی داده، مدل ها تقریباً نیمی بیشتر از انسان ها از کاربران حمایت کردند.