تغییر سیاست «آنتروپیک» برای جلوگیری از توهین به هوش مصنوعی!

شرکت «آنتروپیک» سیاست استفاده از مدل ها را تغییر می دهد تا جلوی سوءاستفاده از مدل ها، توهین به آنها و دخالت در انتخابات را بگیرد.

- تغییر سیاست آنتروپیک برای جلوگیری از توهین به هوش مصنوعی! شرکت آنتروپیک سیاست استفاده از مدل ها را تغییر می دهد تا جلوی سوءاستفاده از مدل ها، توهین به آنها و دخالت در انتخابات را بگیرد.

شرکت آنتروپیک (Anthropic) روز پنجشنبه سیاست استفاده خود را به روزرسانی کرد و ممنوعیت های جدیدی را درباره دخالت در انتخابات، نرم افزارهای تسلیحاتی و نظارت وضع کرد اما شاید جالب ترین تغییر، ممنوعیت جدید علیه سوءاستفاده کلامی بلندمدت از مدل باشد که اکنون صراحتاً ممنوع است.

به گزارش ایسنا به نقل از تک کرانچ، از زمان به روزرسانی هوش مصنوعی کلود (Claude) در ماه اوت، این مدل آموزش دیده است تا به گفت وگوهایی که تعاملات کاربری مداوم مضر یا توهین آمیز هستند، پایان دهد اما سیاست جدید صراحتاً کاربران را از ادامه این گفت وگوها منع می کند.

در این پست توضیح داده شده است: این به روزرسانی سیاست فقط در موارد شدید اعمال می شود که کاربران بارها و بارها و بدون هیچ هدف مشخصی نسبت به مدل های ما بی رحمانه رفتار می کنند.

این به روزرسانی درباره انواع رایج ناامیدی کاربر، محتوای خلاقانه یا آزمایش و بررسی مدل اعمال نمی شود.