هوش مصنوعی از کنترل انسان خارج می شود

محققان چینی در یک پژوهش جدید نشان دادند که دو مدل زبانی بزرگ توانسته اند بدون کمک انسان نسخه هایی از خود بسازند.

برنا - گروه علمی و فناوری: - محققان چینی در پژوهشی جدید نشان داده اند که دو مدل زبانی بزرگ می توانند بدون دخالت انسان نسخه هایی از خود ایجاد کنند.

به گزارش تابناک به نقل از برنا؛ آن ها معتقدند این توانایی، قدمی مهم در مسیر پیشی گرفتن هوش مصنوعی از انسان و نشانه ای اولیه از احتمال ظهور هوش مصنوعی سرکش است.

  هوش مصنوعی سرکش (Rogue AI) به سیستم هایی گفته می شود که سطحی از خودآگاهی یا خودمختاری را توسعه داده و ممکن است برخلاف منافع انسان عمل کنند.

  در این مطالعه که توسط پژوهشگران دانشگاه فودان چین انجام شد، مدل های زبانی بزرگ شرکت های متا و Alibaba مورد بررسی قرار گرفتند.

نتایج آزمایش ها نشان داد که این مدل ها در نیمی از موارد (متا) و 90 درصد موارد (Alibaba) توانستند کپی های جداگانه و عملیاتی از خود ایجاد کنند.

این یافته ها احتمال وجود قابلیت های غیرقابل کنترل در هوش مصنوعی را تقویت می کند.