ترس ایلان ماسک و گروهی از کارشناسان از قدرت هوش مصنوعی/آموزش GPT-4 را 6ماه به تعویق بیندازید

ایلان ماسک و گروهی از کارشناسان هوش مصنوعی و مدیران صنعت در نامه ای سرگشاده اعلام کردند که خواستار توقف شش ماهه سیستم های آموزشی قدرتمندتر از مدل تازه راه اندازی شده GPT-4 هستند و به خطرات احتمالی آن برای جامعه و بشریت اشاره کردند.

به گزارش گروه علم و پیشرفت خبرگزاری فارس به نقل از رویترز، نامه ای سرگشاده  توسط موسسه Future of Life منتشر شده و به امضای بیش از هزار نفر از جمله ماسک رسیده است. افراد در این نامه خواستار این هستند که تا زمان اجرا و ممیزی پروتکل های ایمنی مشترک برای طرح های آموزش هوش مصنوعی پیشرفته توسط کارشناسان،  توسعه آن متوقف شود.

در این نامه آمده است: «سیستم های قدرتمند هوش مصنوعی تنها زمانی باید توسعه یابند که مطمئن شویم اثرات آن ها مثبت و خطرات آن ها قابل مدیریت خواهد بود».

در این نامه همچنین خطرات بالقوه برای جامعه و تمدن توسط سیستم های هوش مصنوعی رقابتی در قالب اختلالات اقتصادی و سیاسی شرح داده شده است و از توسعه دهندگان خواسته شده است تا با سیاست گذاران در زمینه حاکمیت و مقامات نظارتی همکاری کنند.

این نامه در حالی منتشر می شود که نیروی پلیس اتحادیه اروپا (یوروپل) روز دوشنبه به گروهی از نگرانی های اخلاقی و قانونی در مورد هوش مصنوعی پیشرفته مانند ChatGPT پیوست و در مورد سوء استفاده احتمالی از سیستم در تلاش های فیشینگ، اطلاعات نادرست و جرایم سایبری هشدار داد.

ChatGPT از زمان انتشار آن در سال گذشته توسط OpenAI با پشتیبانی مایکروسافت، رقبا را بر آن داشت تا توسعه مدل های زبان بزرگ مشابه را تسریع کنند و شرکت ها مدل های هوش مصنوعی مولد را در محصولات خود ادغام کنند.

یکی از سخنگویان Future of Life به رویترز گفت که سم آلتمن، مدیر اجرایی OpenAI، این نامه را امضا نکرده است. گری مارکوس، استاد دانشگاه نیویورک که نامه را امضا کرده اظهار کرد که باید سرعت خود رابرای توسعه هوش مصنوعی کم کنیم تا زمانی که عواقب آن را بهتر درک کنیم زیرا آنها می توانند آسیب جدی به بار آورند.

پایان پیام/