تهدید پنهان در شبکه های هوش مصنوعی/ وقتی لجبازی، مشکل امنیتی می شود

همسایه ای را تصور کنید که مدام ادعا می کند شما شب ها سر و صدا می کنید.

دیگران ابتدا مخالف اند، اما او دست از تلاش برنمی دارد.

موفقیت او فقط به لجبازی اش بستگی ندارد؛ - تهدید پنهان در شبکه های هوش مصنوعی/ وقتی لجبازی، مشکل امنیتی می شود همسایه ای را تصور کنید که مدام ادعا می کند شما شب ها سر و صدا می کنید.

دیگران ابتدا مخالف اند، اما او دست از تلاش برنمی دارد.

موفقیت او فقط به لجبازی اش بستگی ندارد؛ به این هم بستگی دارد که چقدر با دیگران در ارتباط است و دیگران چقدر حاضرند نظرشان را عوض کنند.

پژوهشگران می گویند یک عامل هوش مصنوعی لجباز می تواند بدون آنکه کنترل دیگران را در دست بگیرد یا دستورهایشان را تغییر دهد، تصمیم جمعی یک شبکه چندعاملی را به سمت دلخواه خود بکشاند.

راز این دستکاری، ترکیب لجبازی و میزان نفوذ اوست.

وبگاه تِک اکسپلور در گزارشی آورده است: همسایه ای را تصور کنید که مدام ادعا می کند شما شب ها سر و صدا می کنید.

دیگران ابتدا مخالف اند، اما او دست از تلاش برنمی دارد.

موفقیت او فقط به لجبازی اش بستگی ندارد؛ به این هم بستگی دارد که چقدر با دیگران در ارتباط است و دیگران چقدر حاضرند نظرشان را عوض کنند.

سمیرا عابدینی، پژوهشگر مرکز امنیت اطلاعات هلمهولتز، از این مثال برای نشان دادن یک مشکل امنیتی در شبکه های عامل های هوش مصنو