ویژگی جدید مدل های کلود: پایان مکالمات مضر توسط هوش مصنوعی

شرکت آنتروپیک اعلام کرد مدل های هوش مصنوعی جدید «Claude Opus 4» و «Claude 4.

1 Opus» اکنون قادرند در مواجهه با مکالمات مضر و غیرسازنده، به طور مستقل تصمیم به پایان گفت وگو بگیرند؛ - به گزارش سرویس علم و فناوری تابناک، شرکت آنتروپیک (Anthropic) با معرفی قابلیتی تازه برای مدل های هوش مصنوعی Claude Opus 4 و Claude 4.

1 Opus ، گامی مهم در جهت کنترل محتوای مضر و محافظت از ساختار تعاملات انسان و ماشین برداشته است.

این ویژگی به مدل ها اجازه می دهد در شرایطی خاص و حساس، گفت وگو با کاربر را به طور کامل متوقف کنند.

بر اساس توضیحات رسمی آنتروپیک، این قابلیت تنها در موارد نادر و شدید فعال می شود؛ از جمله مواقعی که کاربران به طور مداوم رفتار توهین آمیز یا مضر دارند، یا تلاش می کنند به اطلاعات حساس و خطرناک از جمله محتواهای جنسی غیرقانونی یا داده هایی درباره خشونت و تروریسم دسترسی یابند.

آنتروپیک تأکید می کند که پایان مکالمه آخرین راهکار است و تنها زمانی اجرا می شود که تلاش های مدل برای هدایت گفت وگو به مسیر سازنده چندین بار با شکست مواجه شده باشد.

با این حال، به گفته این شرکت، اکثریت کاربران حتی هنگام بحث درباره موضوعات چالش برانگیز، احتمالاً هرگز با این ویژگی روبه رو نخواهند شد.