هوش مصنوعی دروغ ها را به خاطر می سپارد و هفته ها بعد از آن ها استفاده می کند!

مسمومیت حافظه هوش مصنوعی می تواند مدل های پیشرفته را فریب دهد تا اطلاعات نادرست را برای ماه ها به خاطر بسپارند و از آن ها در تعاملات بعدی خود استفاده کنند.

- هوش مصنوعی دروغ ها را به خاطر می سپارد و هفته ها بعد از آن ها استفاده می کند! مسمومیت حافظه هوش مصنوعی می تواند مدل های پیشرفته را فریب دهد تا اطلاعات نادرست را برای ماه ها به خاطر بسپارند و از آن ها در تعاملات بعدی خود استفاده کنند.

اخیراً محققان شرکت فورس پوینت (Forcepoint) در بخش X-Labs خود، آسیب پذیری AI جدیدی را کشف کرده اند که نگرانی های جدی در مورد اعتمادپذیری دستیاران هوش مصنوعی ایجاد می کند.

به گزارش گجت نیوز، این کشف نشان می دهد چگونه عامل های هوش مصنوعی می توانند با داده های غلط مسموم شوند و آن ها را به عنوان حقایق معتبر ذخیره کنند.

یافته های فورس پوینت در مورد چگونگی سوءاستفاده از حافظه بلندمدت هوش مصنوعی، تبعات گسترده ای برای امنیت و کاربرد سیستم های هوش مصنوعی دارد.

حمله ای ساده با نتایجی مخرب یک عامل هوش مصنوعی (ایجنت) می تواند با خواندن متون مخفی در صفحات وب، اطلاعات نادرست را به عنوان یک واقعیت دائمی در حافظه بلندمدت خود ذخیره کند.

این اطلاعات جعلی هفته ها بعد، در کارهای نامربوط دیگر، توسط هوش مصنوعی بازیابی و مورد اعتماد قرار می گیرد.