مدیرعامل مایکروسافت هم خواستار کنترل هوش مصنوعی شد

ساتیا نادلا مدیر ارشد اجرایی مایکروسافت معتقد است مدل های هوش مصنوعی نیازمند یک ترمز اضطراری هستند.

- به گزارش خبرگزاری مهر به نقل ازتک کرانچ، نادلا آخرین مدیر ارشد اجرایی است که دیدگاه های مفصل و طولانی ای درباره چگونگی بهبود ایمنی هوش مصنوعی ارائه می دهد.

وی در پستی در شبکه اجتماعی ایکس نوشت اکنون زمان یک گام عقب رفتن و ارزیابی اعتبار ساختار هوش مصنوعی فرا رسیده است.

مدیر ارشد اجرایی مایکروسافت در این پست آورده است: ما نمی توانیم با ابر هوش به عنوان مجموعه ای از جعبه های سیاه برخورد کنیم و به سادگی توصیه ها، پاسخ ها و اعمال آن را قبول را رد کنیم.

به نوشته او چنین رویکردی به معنای جدا کردن مدل از سازوکار هدایت و هماهنگ سازی فعالیت های آن و همچنین برونی سازی قابلیت های کنترل و ایمنی آن است.

نادلا همچنین خواستار آن است که هر عمل معنادار هوش مصنوعی با توجه به شواهد قابل خوانش برای انسان و مقاوم در برابر دستکاری ثبت شود و سامانه طوری طراحی شود که یک فرد مجاز توانایی متوقف کردن یا خاموش کردن مدل در میانه عملی خاص را داشته باشد.

او در بخشی از پیام خود نوشت: ما باید فرض کنیم مدل به خطر افتاده و از بدو امر از چنین چالشی جلوگیری کنیم.