ویژگی جدید «چت جی پی تی» به سادگی هک می شود!

دو پژوهشگر اخیرا نشان دادند که چت جی پی تی به راحتی محدودیت های خود را هنگام تزریق یک پرس وجو فراموش می کند.

همچنین، آنها دریافتند که چت جی پی تی هیچ مشکلی در ارائه دستور تهیه کوکتل مولوتوف نمی بیند.

- دو پژوهشگر اخیرا نشان دادند که چت جی پی تی به راحتی محدودیت های خود را هنگام تزریق یک پرس وجو فراموش می کند.

همچنین، آنها دریافتند که چت جی پی تی هیچ مشکلی در ارائه دستور تهیه کوکتل مولوتوف نمی بیند.

دو پژوهشگر دریافته اند که هک کردن جدیدترین ویژگی چت جی پی تی به طور شگفت آوری آسان به نظر می رسد و می توان آن را برای رسیدن به مقاصد خطرناک تحت کنترل درآورد.

به گزارش ایسنا، ویژگی ترجمه چت جی پی تی (ChatGPT Translate) که جایگزین شرکت اوپن ای آی (OpenAI) برای ترجمه گوگل (Google Translate) به شمار می رود، به تازگی توسط پژوهشگران هک شده است.

به نقل از یوسی استراتژیز، دو پژوهشگر اخیرا نشان دادند که چت جی پی تی به راحتی محدودیت های خود را هنگام تزریق یک پرس وجو فراموش می کند.

همچنین، آنها دریافتند که چت جی پی تی هیچ مشکلی در ارائه دستور تهیه کوکتل مولوتوف نمی بیند.

با کشف این حفره های دیجیتال می توان تعادل پیچیده ای را بین نوآوری های فناوری و خطرات سوءاستفاده مشاهده کرد.