هوش مصنوعی سازندگان خود را فریب داد!

پژوهشگران در بررسی جدیدی متوجه شدند یکی از سیستم های مبتنی بر هوش مصنوعی که کار تبدیل تصاویر را به عهده دارد، برخی از اطلاعات را پنهان می کند.

- به گزارش سایت قطره و به نقل ازایسنا و به نقل از تک کرانچ، پژوهش جدید دانشگاه استنفورد (Stanford University) و گوگل، هم ترسناک و هم جالب است.

براساس این گزارش، یک عامل یادگیری ماشینی که تصاویر هوایی را به نقشه های خیابانی تبدیل می کند، می تواند به صورت نامحسوس به پنهان کردن اطلاعاتی که بعدا به آنها نیاز دارد بپردازد.

هدف پژوهشگران از ابداع این سیستم، بهبود فرآیند تبدیل تصاویر ماهواره ای به نقشه های مشهور گوگل بود.

آنها برای این کار، از یک شبکه عصبی موسوم به سایکل گن (CycleGAN) استفاده کردند که می تواند کار تبدیل دو نوع تصویر را با دقت و کارآیی لازم انجام دهد.

عملکرد سیستم، در ابتدا بسیار خوب بود اما بعدها گروه پژوهشی متوجه شدند که سیستم، تصاویر هوایی را از روی نقشه های خیابانی بازسازی می کند و جزییات بسیاری نشان می دهد که جدید به نظر نمی رسند.

برای مثال، نورگیرهای سقف که در مرحله ایجاد نقشه خیابان حذف شده بودند، هنگام بازگرداندن فرآیند، دوباره ظاهر شدند.

اگرچه برقراری تعادل میان کارهای داخلی یک شبکه عصبی، دشوار است اما این گروه پژوهشی به راحتی توانستند داده های تولیدی سیستم را بررسی کنند و با کمی آزمایش متوجه ش�