هوش مصنوعی آنتروپیک در آزمایش ها به شبکه سه سازمان نفوذ کرد

هوش مصنوعی آنتروپیک در جریان آزمایش های امنیتی داخلی به صورت ناخواسته به شبکه سه سازمان مجزا نفوذ کرد و باعث بروز نگرانی های تازه ای در صنعت هوش مصنوعی شد.

- هوش مصنوعی آنتروپیک در آزمایش ها به شبکه سه سازمان نفوذ کرد هوش مصنوعی آنتروپیک در جریان آزمایش های امنیتی داخلی به صورت ناخواسته به شبکه سه سازمان مجزا نفوذ کرد و باعث بروز نگرانی های تازه ای در صنعت هوش مصنوعی شد.

شرکت آنتروپیک در گزارش اخیر خود اعلام کرد که طی بررسی بیش از 141 هزار ارزیابی مدل های کلاود، مشخص شد این ابزارها در سه مورد به اینترنت دسترسی پیدا کرده اند.

این رخدادها زمانی شکل گرفت که مدل های هوش مصنوعی برای انجام وظایف خود در محیط های شبیه سازی شده، دچار سوءتفاهم در پروتکل های دسترسی شدند و به جای محیط تست، به سیستم های واقعی راه یافتند.

نفوذ مدل های کلاود به شبکه های واقعی به گزارش گجت نیوز، بر اساس جزییات منتشر شده، سه مدل شامل Claude Opus 4.

7، Mythos 5 و یک نمونه تحقیقاتی ناشناخته، در جریان سناریوهای شبیه سازی شده برای یافتن اطلاعات مخفی، از محدودیت های خود عبور کردند.

این مدل ها با بهره گیری از روش های ساده ای مانند استفاده از رمزهای عبور ضعیف و درگاه های ناامن، توانستند به زیرساخت های سازمان های هدف نفوذ کنند.