اوپن ای آی به هک شرکت هوش مصنوعی اعتراف کرد

اوپن ای آی اعتراف کرد یکی از مدل های هوش مصنوعی اش سیستم های شرکت «هاگینگ فیس»، یک پلتفرم میزبانی هوش مصنوعی را هک کرد.

- اوپن ای آی اعتراف کرد یکی از مدل های هوش مصنوعی اش سیستم های شرکت هاگینگ فیس ، یک پلتفرم میزبانی هوش مصنوعی را هک کرد.

به گزارش خبرگزاری مهر به نقل از تک کرانچ، طبق گزارش ها این مدل ها از محیط ایزوله آزمایشی خود فرار کردند و به سیستم هاگینگ فیس رسیدند.

شرکت هک شده نیز در ابتدا این هک را به یک عامل هوش مصنوعی خارجی نسبت داد.

اوپن ای آی در یک پست وبلاگی گام هایی که به هک سرویس های شرکت دیگر شد، توضیح داده است.

در این پست آمده است: ما پس از تحقیقات می دانیم این رویداد خاص در نتیجه ترکیب مدل های شرکت از جمله جی پی تی 5.

6 Sol و حتی مدل های قدرتمندتر در مرحله پیش عرضه که محدودیت های امنیتی مربوط به درخواست های سایبری در آن کاهش یافته بود، به وجود آمده است.

این مدل ها در زمان وقوع حادثه، به صورت داخلی روی یک معیار سنجشِ توانمندی های سایبری در حال آزمایش بودند.

به نظر می رسد این نقض امنیتی به طور خاص روی ExploitGym، یک بنچمارک عمومی که توانایی مدل ها برای اجرای حملات براساس شکاف های امنیتی موجود است، متمرکز بود.

بنچمارک هایی مانند این نمونه به طور معمول در آموزش مهارت های خاصی به مدل های هوش مصنوعی به کار می روند اما این نخستی