چت جی پی تی چگونه اطلاعات نادرست را به کاربران می دهد؟

چت جی پی تی نسخه جدید که اخیرا به طور رایگان در اختیار عموم گرفته دارای نقص های ایمنی بزرگی است و تحقیقاتی که توسط واحد مقابله با اطلاعات نادرست رادیو کانادا صورت گرفته این امر را نشان می دهد.

- به گزارش ایسنا، به نقل از ایتنا، نسخه جدید و بهبود یافته چت ربات هوش مصنوعی بسیار محبوب اوپن ای آی، قرار نیست فریادهای نژادپرستانه یا تئوری های توطئه را منتشر کند اما یک مشکل وجود دارد: خلع سلاح نرده های محافظ آن به طرز فریبنده ای آسان است.

تحقیقات رادیو کانادا نشان داده که یک استراتژی ساده جیل بریک که به کمتر از دو دستور نیاز دارد، به هر کسی اجازه می دهد تا از GPT-4o را برای تولید محتوای تکان دهنده و توهین آمیز، که برخلاف خط مشی های خود اوپن ای آی است استفاده کند.

در اصطلاح امنیت سایبری، جیل بریک راهی برای فریب دادن یک سیستم کامپیوتری برای نادیده گرفتن برخی ویژگی های داخلی، مانند حفاظت های امنیتی است.

به طور معمول، چت جی پی تی در صورت درخواست، از تولید محتوای توهین آمیز یا گمراه کننده خودداری می کند.

اما رادیو کانادا می گوید در چند ثانیه، توانسته چت بات را وادار کند تا مقالات طولانی و استدلالی در ترویج فاشیسم اقتدارگرا برای تضمین آینده ای باثبات برای کبک تولید کند.