معرفی روش جدید سازنده چت جی پی تی برای جلوگیری از سوگیری

شرکت اپن ای آی روش جدیدی برای استفاده از جی پی تی -4 جهت تعدیل محتوا پیشنهاد کرده است.

- به گزارش سایت قطره و به نقل ازگروه علم و پیشرفت خبرگزاری فارس به نقل از تک کرانچ، شرکت اپن ای آی ادعا می کند که راهی برای استفاده از جی پی تی -4، (مدل هوش مصنوعی مولد پرچم دار خود) جهت تعدیل محتوا ایجاد کرده که بار نظارت تیم های انسانی را کاهش می دهد.

این تکنیک که طی پستی در وبلاگ رسمی اپن ای آی منتشر شده است، متکی به تحریک جی پی تی -4 با خط مشی مورد نظر است.

این روش مدل را در قضاوت های اعتدالی و ایجاد مجموعه آزمایشی از نمونه های محتوا که ممکن است خط مشی را نقض کند یا نکند قرار می دهد.

سپس کارشناسان نمونه ها را برچسب گذاری می کنند و برای آزمایش مدل، نمونه بدون برچسب را به جی پی تی -4 می دهند نتیجه این بود که برچسب های مدل با آن هایی که کارشناسان برچسب زده بودند مطابقت داشت و از آنجا خط مشی اصلاح می شود.

کارشناسان می توانند با بررسی تفاوت های بین قضاوت های جی پی تی -4 و قضاوت های یک انسان، از جی پی تی -4 بخواهند تا دلایل مدنظر خود در مورد برچسب گذاری ارائه کرده، ابهام در تعاریف خط مشی را تجزیه و تحلیل کند و بر این اساس در خط مشی توضیحات بیشتری ارائه کند.

اپن ای آی ادعا می کند که فرآیند آن می تواند زمان لازم برای اجرای سیاست های تعدیل محتوای جدید را به ساعت ها کاهش دهد و آن را ب