هم بنیان گذار گوگل: هوش مصنوعی را تهدید کنید تا پاسخ های بهتری بگیرید

مدل های هوش مصنوعی ظاهراً در فرایند آموزش خود فهمیده اند «تهدید» به این معنی است که کار باید جدی تر گرفته شود.

- هم بنیان گذار گوگل: هوش مصنوعی را تهدید کنید تا پاسخ های بهتری بگیرید مدل های هوش مصنوعی ظاهراً در فرایند آموزش خود فهمیده اند تهدید به این معنی است که کار باید جدی تر گرفته شود.

راه های مختلفی برای افزایش عملکرد هوش مصنوعی مولد و دریافت خروجی موردنظر وجود دارد.

سرگی برین ، هم بنیان گذار گوگل، در مصاحبه جدیدی راهکار عجیبی برای این مسئله مطرح کرد.

او می گوید کاربران می توانند با تهدید هوش مصنوعی عملکرد آن را بهبود بدهند.

به گزارش دیجیاتو، سرگی برین در مصاحبه ای با  گفت مدل جدید Opus که بالاترین عملکرد را دارد، می تواند با نهادهای نظارتی تماس بگیرد و اکانت شما را مسدود کند تا مانع کارهای غیراخلاقی بشود.

قابلیت جدید شرکت آنتروپیک فعلاً در مرحله آزمایشی است ولی احتمالاً در آینده عملی شود؛ به این ترتیب ممکن است هوش مصنوعی تهدیدهای شما برای انجام کارهای مختلف را گزارش بدهد.

درکل کارشناسان توصیه می کنند کاربران با پرامپت نویسی اصولی و دقیق خروجی موردنظرشان را از هوش مصنوعی دریافت کنند.

اگرچه راه های مختلفی برای دورزدن محدودیت های هوش مصنوعی از طریق پرامپت وجود دارد، چارچوب امنیتی مدل های هوش مصنوعی پیشرفته را نمی ت