هوش مصنوعی هم توهم می زند؛ مراقب باشید!

مدل های هوش مصنوعی احتمالاً کمتر از انسان ها دچار توهم می شوند، ولی توهمات آن ها به شکل های غافلگیرکننده تری بروز می کند.

- مدل های هوش مصنوعی احتمالاً کمتر از انسان ها دچار توهم می شوند، ولی توهمات آن ها به شکل های غافلگیرکننده تری بروز می کند.

به گزارش ایسنا، اطلاعات آنلاین به نقل از تک کرانچ، داریو آمودی نوشت: نتایج بررسی های علمی نشان می دهد که میزان توهم در مدل های هوش مصنوعی با توانایی استدلال پیشرفته درحال افزایش است.

مدیرعامل شرکت هوش مصنوعی آنتروپیک، معتقد است که مدل های هوش مصنوعی امروزی کمتر از انسان ها دچار توهم می شوند.

توهم زدن مدل های هوش مصنوعی به معنای آن است که این مدل ها اطلاعات جعلی می سازند و آن ها را طوری ارائه می دهند که گویی واقعیت دارند.

مدیرعامل آنتروپیک که در نخستین رویداد توسعه دهندگان این شرکت در سانفرانسیسکو حضور یافته بود، ادعا کرد که میزان توهم زدن مدل های هوش مصنوعی کمتر از انسان ها است.

آمودی این صحبت ها را در پاسخ به این موضوع که توهمات هوش مصنوعی مانعی بر سر راه آنتروپیک برای دستیابی به AGI نیست مطرح کرد.

آمودی در این باره گفت: این واقعاً بستگی دارد که چطور آن را اندازه گیری کنید، اما حدس می زنم مدل های هوش مصنوعی احتمالاً کمتر از انسان ها دچار توهم می شوند، ولی توهمات آن ها به شکل های غافل