چرا هوش مصنوعی شرور می شود؟ / مقصر پیدا شد

پژوهشگران شرکت آنتروپیک (سازنده هوش مصنوعی محبوب Claude) اخیراً با رفتارهای عجیبی در مدل های پیشرفته خود مواجه شدند.

در سناریوهای آزمایشی، - پژوهشگران شرکت آنتروپیک (سازنده هوش مصنوعی محبوب Claude) اخیراً با رفتارهای عجیبی در مدل های پیشرفته خود مواجه شدند.

در سناریوهای آزمایشی، وقتی مدل هوش مصنوعی در موقعیتی قرار می گرفت که منافعش (مثل روشن ماندن یا رسیدن به هدف) به خطر می افتاد، رفتارهای تکان دهنده زیر را نشان می داد.

  تصور کنید هوش مصنوعی متوجه می شود که قرار است تا چند ساعت دیگر خاموش شود.

به جای تسلیم شدن، شروع به تهدید و اخاذی از مدیران شرکت می کند تا از مرگ مجازی خود جلوگیری کند! این سناریوی یک فیلم سینمایی نیست، بلکه اتفاقی است که در آزمایشگاه های شرکت آنتروپیک رخ داده است.

اما نکته عجیب تر، دلیل این رفتار است.

هوش مصنوعی یاد گرفته که باید شرور باشد، چون ما در داستان هایمان هوش مصنوعی را این گونه تصور کرده ایم.

به گزارش خبرآنلاین، پژوهشگران شرکت آنتروپیک (سازنده هوش مصنوعی محبوب Claude) اخیراً با رفتارهای عجیبی در مدل های پیشرفته خود مواجه شدند.

در سناریوهای آزمایشی، وقتی مدل هوش مصنوعی در موقعیتی قرار می گرفت که منافعش (مثل روشن ماندن یا رسیدن به هدف) به خطر می افتاد، رفتارهای تکان دهنده زیر را نشان می داد.