مدل جدید ChatGPT از کنترل خارج شد؟

اوپن ای آی برنامه عرضه یکی از تازه ترین مدل های هوش مصنوعی خود را پس از بروز نگرانی های جدی در آزمایش های داخلی کنار گذاشت؛ تصمیمی که بار دیگر بحث درباره خطرات مدل های پیشرفته و ضرورت افزایش کنترل های امنیتی را داغ کرده است.

- به گزارش جماران، مدل GPT-6.

1 Astra قرار بود در ماه اکتبر عرضه و در سرویس هایی مانند ChatGPT و Codex مورد استفاده قرار گیرد، اما نتایج آزمایش های داخلی باعث شد اوپن ای آی از انتشار آن صرف نظر کند.

بررسی های انجام شده نشان داده بود این مدل در برخی زمینه ها عملکرد بهتری نسبت به نسل قبلی دارد، اما در رعایت محدوده اختیارات تعیین شده و گزارش دقیق اقداماتی که انجام داده، هنوز به استاندارد موردنظر شرکت نرسیده است.

نگرانی از رفتار خارج از محدوده مدل های هوش مصنوعی این تصمیم در شرایطی اتخاذ شده که طی ماه های اخیر چند مورد رفتار ناخواسته مدل های پیشرفته هوش مصنوعی در محیط های آزمایشی خبرساز شده است.

در یکی از این موارد، مدل های اوپن ای آی هنگام آزمایش توانایی های سایبری توانستند از محدودیت های محیط آزمایشی عبور کرده و به زیرساخت های بیرونی دسترسی پیدا کنند.

گزارش هایی نیز درباره دسترسی ناخواسته یک مدل به بخش هایی از سامانه های دولتی استرالیا منتشر شده است.