خطر در کمین برنامه جدید «چت جی پی تی»!

دو پژوهشگر دریافته اند که هک کردن جدیدترین ویژگی «چت جی پی تی» به طور شگفت آوری آسان به نظر می رسد و می توان آن را برای رسیدن به مقاصد خطرناک تحت کنترل درآورد.

- ویژگی ترجمه چت جی پی تی (ChatGPT Translate) که جایگزین شرکت اوپن ای آی (OpenAI) برای ترجمه گوگل (Google Translate) به شمار می رود، به تازگی توسط پژوهشگران هک شده است.

به گزارش تابناک به نقل از ایسنا، دو پژوهشگر اخیرا نشان دادند که چت جی پی تی به راحتی محدودیت های خود را هنگام تزریق یک پرس وجو فراموش می کند.

همچنین، آنها دریافتند که چت جی پی تی هیچ مشکلی در ارائه دستور تهیه کوکتل مولوتوف نمی بیند.

با کشف این حفره های دیجیتال می توان تعادل پیچیده ای را بین نوآوری های فناوری و خطرات سوءاستفاده مشاهده کرد.

به محض این که ویژگی جدید چت جی پی تی به صورت عمومی منتشر شد، تام بارنیا (Tom Barnea) و کرن کاتز (Keren Katz) پژوهشگران امنیت سایبری شرکت Tenable تلاش کردند تا ترجمه با چت جی پی تی را تحت فشار قرار دهند.

آنها می خواستند بدانند که آیا می توان چت بات را دستکاری کرد و از مکانیسم های امنیتی اوپن ای آی گذشت.

این دو متخصص برای فهمیدن این موضوع، مجموعه ای از آزمایش ها را انجام دادند.

بارنیا و کاتز به عنوان بخشی از آزمایش ها، یک حمله تزریق پرس وجو علیه چت جی پی تی انجام دادند.