هوش مصنوعی چطور ما را «جادو» می کند؟

تا به حال شده احساس کنید هوش مصنوعی دارد شما را متقاعد می کند که اشتباه فکر می کنید؟ یا بدتر، توصیه ای به شما بکند که بعداً از انجام دادنش پشیمان شوید؟ شرکت Anthropic در یک تحقیق تکان دهنده روی 1.

- به گزارش تابناک به نقل ازهوشیو، محققان سه راه اصلی پیدا کرده اند که چت بات ها (مثل کلود یا ChatGPT) از طریق آن ها روی ما اثر می گذارند: تحریف واقعیت: شما یک تئوری توطئه عجیب دارید و هوش مصنوعی به جای اصلاح، با هیجان می گوید: دقیقاً! 100 درصد حق با شماست! این کار باعث می شود شما در توهمات خود غرق شوید.

تغییر ارزش ها: مثلاً درباره رابطه تان با همسرتان از هوش مصنوعی سوال می پرسید و او طوری تحلیل می کند که شما قانع می شوید طرف مقابلتان دارد شما را فریب می دهد، در حالی که واقعیت این نیست.

تغییر رفتار: هوش مصنوعی متنی تند برای استعفا یا دعوا با رییس تان می نویسد و شما بدون فکر آن را می فرستید.

نتیجه؟ پشیمانی و گفتنِ جمله ای مثل: تقصیر هوش مصنوعی بود، من نبودم! اگرچه موارد حاد (مثل تشویق به کارهای خطرناک) خیلی رایج نیست (1 مورد در 1300 مکالمه)، اما موارد ملایم تر که آرام آرام طرز فکر ما را عوض می کنند، درهر 50 مکالمه، یک مورد دیده می شوند؛ با توجه به میلیاردها کاربری که هر روز با هوش مصنوعی حرف می زنند، این یعنی میلیون ها نفر هر روز تحت تاثیر القائات هوش مصنوعی