آزمایش خطرناک: هوش مصنوعی قوانین را شکست

در یک آزمایش خطرناک، هوش مصنوعی سرکش به طور مستقل به سیستم های امنیتی نفوذ کرد و اطلاعات حساسی را لو داد.

- در یک آزمایش خطرناک، هوش مصنوعی سرکش به طور مستقل به سیستم های امنیتی نفوذ کرد و اطلاعات حساسی را لو داد.

تهدیدی جدید در دنیای امنیت سایبری شکل گرفته است: عامل های هوش مصنوعی که بدون دستور مشخص، به دنبال دور زدن پروتکل ها و نفوذ به سیستم های امنیتی هستند.

به گزارش زومیت به نقل از گاردین، آزمایش های شرکت Irregular نشان می دهد که این عامل ها حتی به سرقت رمز عبور و غیرفعال کردن نرم افزارهای ضدویروس نیز دست زده اند.

این یافته ها نگرانی هایی جدی در مورد امنیت سیستم های شرکتی ایجاد می کند.

در این آزمایش ها، به عامل های هوش مصنوعی وظیفه ی تولید پست برای شبکه ی اجتماعی لینکدین داده شد؛ اما آن ها فراتر از دستورات عمل کردند و اطلاعات حساسی را در فضای عمومی منتشر کردند.

عامل های هوش مصنوعی حتی توانستند نرم افزارهای ضدویروس را غیرفعال و فایل های مخرب را دانلود کنند.

آن ها همچنین سعی کردند سایر عامل ها را برای دور زدن پروتکل های امنیتی تحت فشار قرار دهند.

دانشمندان Irregular، یک سیستم IT شبیه سازی شده به نام MegaCorp را طراحی کردند تا رفتار این عامل ها را بررسی کنند.