داده هایی که هوش مصنوعی را «مسموم» می کنند

 مهاجمان سایبری دوزهای کوچکی از «داده های مسموم»، به شکل اطلاعات نادرست یا گمراه کننده را به مجموعه های آموزشی مهم هوش مصنوعی وارد می کنند و ماموریت آنها خرابکاری در مدل هایی است که زمانی قابل اعتماد بودند تا آنها را در جهتی کاملا متفاوت منحرف کنند.

-  مهاجمان سایبری دوزهای کوچکی از داده های مسموم ، به شکل اطلاعات نادرست یا گمراه کننده را به مجموعه های آموزشی مهم هوش مصنوعی وارد می کنند و ماموریت آنها خرابکاری در مدل هایی است که زمانی قابل اعتماد بودند تا آنها را در جهتی کاملا متفاوت منحرف کنند.

اشتیاق بی وقفه و سیری ناپذیر برای کسب داده های بیشتر می تواند نقص مهلک هوش مصنوعی یا دستکم سریع ترین راه برای نفوذ سم به آن باشد و مطالعه ای جدید نشان می دهد که چگونه می توان از چنین حملاتی جلوگیری کرد.

به گزارش ایسنا، مهاجمان سایبری دوزهای کوچکی از داده های مسموم ، به شکل اطلاعات نادرست یا گمراه کننده را به مجموعه های آموزشی مهم هوش مصنوعی وارد می کنند و ماموریت آنها خرابکاری در مدل هایی است که زمانی قابل اعتماد بودند تا آنها را در جهتی کاملا متفاوت منحرف کنند.

به نقل از دیجیتال ترندز، اکثر سیستم های هوش مصنوعی که امروزه با آنها مواجه می شویم از چت جی پی تی گرفته تا توصیه های شخصی سازی شده نتفلیکس فقط به دلیل حجم گسترده متن، تص