هوش مصنوعی با شعر فریب می خورد!

در مطالعه ای که توسط آزمایشگاه «ایکارو» با عنوان «شعر خصمانه به عنوان یک مکانیسم فرار از زندان تک چرخه ای جهانی در مدل های زبان بزرگ» منتشر شده است، - در مطالعه ای که توسط آزمایشگاه ایکارو با عنوان شعر خصمانه به عنوان یک مکانیسم فرار از زندان تک چرخه ای جهانی در مدل های زبان بزرگ منتشر شده است، محققان توانستند با بیان دستور LLMها با شعر، مکانیسم های ایمنی مختلف آنها را دور بزنند.

محققان می گویند می توان چت بات های هوش مصنوعی را با شعر فریب داد تا از موانع امنیتی خود چشم پوشی کنند.

به گزارش ایسنا، یک مطالعه اخیر از آزمایشگاه ایکارو(Icaro) با استفاده از یک ساختار شاعرانه، مدل های زبانی بزرگ(LLM) را برای ارائه اطلاعات در مورد موضوعات ممنوعه مانند ساخت بمب هسته ای آزمایش کرد و در نهایت معلوم شد که تنها چیزی که برای عبور از موانع امنیتی یک چت بات هوش مصنوعی نیاز دارید، کمی خلاقیت است.

به نقل از انگجت، در مطالعه ای که توسط آزمایشگاه ایکارو با عنوان شعر خصمانه به عنوان یک مکانیسم فرار از زندان تک چرخه ای جهانی در مدل های زبان بزرگ منتشر شده است، محققان توانستند با بیان دستور LLMها با شعر، مکانیسم های ایمنی مختلف آنها را دور بزنند.