هشدار «آنتروپیک» درباره خودبه سازی هوش مصنوعی

شرکت «آنتروپیک» هشدار داد که هوش مصنوعی به قابلیت «خودبه سازی بازگشتی» بسیار نزدیک شده است.

- شرکت آنتروپیک هشدار داد که هوش مصنوعی به قابلیت خودبه سازی بازگشتی بسیار نزدیک شده است.

در حالی که توجه زیادی به گزارش مالی به روزرسانی شده روز دوشنبه شرکت آنتروپیک (Anthropic) در طرح اصلاح شده S-1A آن معطوف شده است مبنی بر این که درآمدها و هزینه ها رو به افزایش هستند، این آزمایشگاه هوش مصنوعی خبر غافلگیرکننده دیگری را منتشر کرد.

به گزارش ایسنا به گزارش تک کرانچ، به نظر می رسد این سند هشدار می دهد آنتروپیک در آستانه ایجاد مدلی است که قادر به خودبه سازی بازگشتی (RSI) است.

خودبه سازی بازگشتی، نقطه ای است که در آن هوش مصنوعی در خودآموزی چنان مهارتی می یابد که موجب شتابی چشمگیر در توانمندی هایش می شود.

از دیدگاه کسانی که نسبت به هوش مصنوعی بدبین هستند و آن را یک تهدید وجودی می دانند، خودبه سازی بازگشتی بیانگر فاجعه ای بازگشت ناپذیر است.

در این وضعیت، هوش مصنوعی چنان قدرت می گیرد که از کنترل انسان خارج می شود و ممکن است در مسیر دستیابی به اهدافش، نسبت به آسیب هایی که به بار می آورد کاملاً بی تفاوت باشد.

برای علاقه مندان به هوش مصنوعی، خودبه سازی بازگشتی یا نسخه ای از هوش مصنوعی که به طور قابل اعتمادی از خود برای بهبود استفاده می کند، تحقق نوید