ارائه روشی برای مقاوم سازی مدل های هوش مصنوعی در برابر حملات خصمانه

دانش آموخته دکتری دانشگاه صنعتی امیرکبیر  راهکاری برای مقابله با حملات خصمانه علیه مدل های هوش مصنوعی ارائه کرد.

- ارائه روشی برای مقاوم سازی مدل های هوش مصنوعی در برابر حملات خصمانه دانش آموخته دکتری دانشگاه صنعتی امیرکبیر  راهکاری برای مقابله با حملات خصمانه علیه مدل های هوش مصنوعی ارائه کرد.

به گزارش خبرگزاری مهر به نقل از دانشگاه صنعتی امیرکبیر، محمد خالویی، دانش آموخته این دانشگاه، با راهنمایی محمدمهدی همایون پور و مریم امیرمزلقانی، اعضای هیئت علمی دانشگاه، طرح مقاوم سازی شبکه های کانولوشنی عمیق نسبت به حملات خصمانه جعبه سفید مبتنی بر تابع هزینه را اجرا کرده است.

وی درباره علت انتخاب این موضوع پژوهشی گفت: دستیابی مدل های هوش مصنوعی به دقت بالا، به تنهایی تضمین کننده عملکرد ایمن و قابل اعتماد آن ها نیست.

با گسترش کاربرد این مدل ها در حوزه های حساس، از احراز هویت و پردازش داده های شخصی گرفته تا صنایع و زیرساخت های حیاتی، اطمینان از صحت، پایداری و مقاومت پاسخ های آن ها در برابر دستکاری های هدفمند، اهمیت فزاینده ای یافته است.

خالویی افزود: این تحقیق حاصل نگاهی آینده نگر به روند توسعه هوش مصنوعی و نیازهای کشور در سال های آینده بود.