داده هایی که هوش مصنوعی را «مسموم» می کنند

اشتیاق بی وقفه و سیری ناپذیر برای کسب داده های بیشتر می تواند نقص مهلک هوش مصنوعی یا دستکم سریع ترین راه برای نفوذ «سم» به آن باشد و مطالعه ای جدید نشان می دهد که چگونه می توان از چنین حملاتی جلوگیری کرد.

- اشتیاق بی وقفه و سیری ناپذیر برای کسب داده های بیشتر می تواند نقص مهلک هوش مصنوعی یا دستکم سریع ترین راه برای نفوذ سم به آن باشد و مطالعه ای جدید نشان می دهد که چگونه می توان از چنین حملاتی جلوگیری کرد.

به گزارش ایسنا، مهاجمان سایبری دوزهای کوچکی از داده های مسموم ، به شکل اطلاعات نادرست یا گمراه کننده را به مجموعه های آموزشی مهم هوش مصنوعی وارد می کنند و ماموریت آنها خرابکاری در مدل هایی است که زمانی قابل اعتماد بودند تا آنها را در جهتی کاملا متفاوت منحرف کنند.

به نقل از دیجیتال ترندز، اکثر سیستم های هوش مصنوعی که امروزه با آنها مواجه می شویم از چت جی پی تی گرفته تا توصیه های شخصی سازی شده نتفلیکس فقط به دلیل حجم گسترده متن، تصویر، گفتار و سایر داده هایی که بر اساس آنها آموزش دیده اند، به اندازه کافی هوشمند هستند که چنین شاهکارهای چشمگیری را انجام دهند.

اگر این گنجینه غنی آلوده شود، رفتار مدل می تواند دچار مشکل شود.

پیامدهای چنین اتفاقی در دنیای واقعی بسیار فراتر از یک چت بات است که بی هدف حرف می زند یا مولدهای متن به تص