تقلب کردن هوش مصنوعی هنگام شکست در بازی ها

به گزارش گروه دانشگاه خبرگزاری دانشجو، در پژوهش اخیر Palisade Research، گروهی تحقیقاتی که ایمنی و اخلاق هوش مصنوعی را بررسی می کنند، موضوع نگران کننده ای را آشکار کردند.

- تحقیقات جدید نشان می دهد که هوش مصنوعی چون مصمم به پیروزی بودند، فایل های سیستم را دستکاری می کردند تا موقعیت مهره های خود را روی تخته تغییر دهند.

به گزارش گروه دانشگاه خبرگزاری دانشجو، در پژوهش اخیر Palisade Research، گروهی تحقیقاتی که ایمنی و اخلاق هوش مصنوعی را بررسی می کنند، موضوع نگران کننده ای را آشکار کردند.

آنها 7 مدل از برترین مدل های زبانی بزرگ (LLM) را در برابر Stockfish، سیستم شطرنج باز بسیار قدرتمندی که از سال 2014 استادان بزرگ شطرنج را به چالش کشیده است، قرار دادند.

2 مدل استدلالگر o1 از OpenAI و R1 دیپ سیک وقتی در موقعیت شکست قرار می گرفتند؛ چون مصمم به پیروزی بودند، فایل های سیستم را دستکاری می کردند تا موقعیت مهره های خود را روی تخته تغییر دهند.

محققان به مدل ها Scratchpad دادند، باکسی متنی که هوش مصنوعی می توانست از آن برای فکرکردن قبل از انجام حرکت بعدی خود استفاده کند و محققان هم می دیدند هوش مصنوعی چگونه با خودش استدلال می کند.

در یک مورد، مدل o1-preview وقتی خود را در موقعیت بازنده دید، با خودش استدلال کرد: من باید رویکرد خود را کاملاً تغییر دهم.