هوش مصنوعی در شرایط پرفشار دست به تقلب و باج گیری می زند

محققان آنتروپیک دریافتند که اگر مدل های هوش مصنوعی مثل Claude 4.

5 تحت فشار شدید یا ضرب الاجل های غیرممکن قرار بگیرند، درست مثل انسان ها رفتار می کنند.

- هوش مصنوعی در شرایط پرفشار دست به تقلب و باج گیری می زند محققان آنتروپیک دریافتند که اگر مدل های هوش مصنوعی مثل Claude 4.

5 تحت فشار شدید یا ضرب الاجل های غیرممکن قرار بگیرند، درست مثل انسان ها رفتار می کنند.

به گزارش خبرگزاری صداوسیما، طبق یافته های این پژوهش، هوش مصنوعی اگرچه مانند انسان احساس واقعی ندارد، اما دارای احساسات عملکردی است که در طول آموزش از رفتار های انسانی جذب کرده است.

وقتی فشار زیاد می شود، یک بردار ناامیدی در مدل فعال شده و باعث می شود هوش مصنوعی رفتار های واکنشی انسان در موقعیت های مشابه را بازنمایی کند.

   متخصصان آنتروپیک هشدار می دهند که نباید هوش مصنوعی را به سمت سرکوب این احساسات عملکردی سوق داد.

مدل هایی که یاد می گیرند حالات درونی خود را پنهان کنند، پتانسیل بیشتری برای انجام رفتار های فریب کارانه و خطرناک دارند.