راز توهم های هوش مصنوعی فاش شد

اوپن ای آی در پژوهشی تازه راز اصلی «توهم » چت بات ها را فاش کرده و راهکاری غیرمنتظره برای مهار آن ارائه داده است.

- اگر تاکنون پرسشی از یک چت بات هوش مصنوعی مطرح کرده و پاسخی بسیار مطمئن، اما کاملاً نادرست دریافت کرده باشید، برای نمونه، توصیه به استفاده از چسب بر روی پیتزا، با پدیده ای مواجه شده اید که پژوهشگران آن را توهم می نامند.

این مسئله محدود به یک مدل خاص نیست؛ از جی پی تی-5 تا کلود ، تمامی مدل های زبانی بزرگ در مقاطعی دچار چنین خطا هایی می شوند.

بر اساس گزارش تازه منتشرشده از سوی اوپن ای آی، این خطا ها تصادفی نیستند، بلکه ریشه در ساختار آموزشی و ارزیابی مدل ها دارند.

به گزارش تابناک به نقل از باشگاه خبرنگاران؛ در این گزارش تأکید شده است که مدل های زبانی برای دروغ پردازی طراحی نشده اند، اما در فرآیند یادگیری، به دلیل شیوه امتیازدهی، برای حدس زدن پاداش دریافت می کنند.

به تعبیر اوپن ای آی: توهم ها به سبب نوع ارزیابی ها ادامه دار هستند.

مدل ها طوری بهینه سازی می شوند که در جایگاه یک داوطلب آزمون عملکرد خوبی داشته باشند و در شرایط عدم اطمینان، حدس زدن امتیاز بیشتری برایشان به همراه دارد.

به بیان ساده، همانند امتحانات مدرسه که سکوت نمره ای به همراه نداشت و پاسخ احتمالی می توانست شانس درستی داشته باشد، این مدل ها نیز پیوسته