هوش مصنوعی عمدا دروغ می گوید

تحقیق جدیدی از OpenAI نشان می دهد که مدل های هوش مصنوعی قادر به «توطئه چینی» یا «دروغگویی عامدانه» برای رسیدن به اهدافشان هستند.

این عمل، پدیده ای خطرناک است که حتی با آموزش به هوش مصنوعی کار را دشوارتر می کند اما محققان برای آن یک راهکار پیدا کردند.

- هر از گاهی، محققان بزرگترین شرکت های فناوری، خبری تکان دهنده منتشر می کنند.

یک بار گوگل اعلام کرد که جدیدترین تراشه کوانتومی اش وجود جهان های چندگانه را نشان می دهد.

یا زمانی که شرکت آنتروپیک یک دستگاه فروش خودکار اسنک را به ایجنت هوش مصنوعی خود، کلادیوس، داد تا آن را اداره کند و او کنترل از دستش خارج شد، برای مردم نگهبان خبر کرد و اصرار داشت که انسان است.

به گزارش تابناک به نقل از خبرآنلاین، این هفته، نوبت OpenAI بود که باعث تعجب همگانی شود.

OpenAI روز دوشنبه تحقیقی را منتشر کرد که توضیح می داد چگونه در حال متوقف کردن مدل های هوش مصنوعی از توطئه چینی است.

همانطور که OpenAI توضیح داد در توطئه چینی، یک هوش مصنوعی اهداف واقعی خود را پنهان و در ظاهر به شکل دیگری رفتار می کند.

در این مقاله که با همکاری شرکت تحقیقاتی آپولو (Apollo Research) انجام شده، محققان کمی فراتر رفته و توطئه چینی هوش مصنوعی را به یک کارگزار بورس انسانی تشبیه کردند که برای کسب بیشترین پول ممکن، قانون را زیر پا می گذارد.