«چت جی پی تی سرچ» در خطر فریب خوردن!

گزارش ها حاکی از این هستند که «چت جی پی تی سرچ» در خطر فریب خوردن قرار دارد و ممکن است اطلاعات اشتباه را ارائه دهد.

- به گزارش تابناک به نقل از ایسنا، روزنامه بریتانیایی گاردین نوشت موتور جست وجوی چت جی پی تی سرچ (ChatGPT Search) مبتنی بر هوش مصنوعی که در ماه جاری میلادی راه اندازی شد، با مشکل فریب خوردن همراه است و متن های گمراه کننده را تولید می کند.

تک کرانچ اعلام کرد، هدف از ویژگی چت جی پی تی سرچ این است که با انجام دادن کارهایی مانند خلاصه کردن بررسی های صفحه وب، به مرور سرعت بدهد، اما گاردین خاطرنشان کرد که این قابلیت می تواند چت جی پی تی را ترغیب کند تا نظرات منفی را نادیده بگیرد و با درج متن پنهان در وب سایت هایی که ایجاد کرده، خلاصه های کاملا مثبت را تولید کند.

همچنین، چت جی پی تی سرچ با استفاده از این روش می تواند رمزهای مخرب را استخراج کند.

این گونه حملات متنی مخفی، یک خطر شناخته شده برای مدل های زبانی بزرگ هستند، اما به نظر می رسد این اولین بار است که در یک محصول جستجوی زنده با هوش مصنوعی نشان داده می شود.

گاردین خاطرنشان کرد که موتور جست وجوی گوگل ، تجربه بیشتری را در برخورد با مشکلات مشابه دارد.

شرکت اوپن ای آی (OpenAI) به تماس تک کرانچ درباره این اتفاق خاص اظهار نظر نکرد، اما گفت که از روش های گوناگونی برای مسدود کردن وب سای�