هوش مصنوعی نمی تواند واقعیت را به طور کامل تشخیص دهد

مطالعه ای تازه نشان داده است فناوری هوش مصنوعی Deepfake بعید است بتواند واقعیت را به طور کامل تشخیص دهد.

- جی پلاس، محققان هشدار دادند از آن جایی که انسان ها قادر به تشخیص بیش از یک چهارم نمونه های گفتاری تولید شده توسط هوش مصنوعی نیستند، به سختی می توانند تشخیص دهند که دیپ فیک ها، ویدیوها یا کلیپ های صوتی جعلی هستند که شبیه صدا یا ظاهر یک شخص واقعی هستند.

باشگاه خبرنگاران جوان نوشت؛ نگرانی ها در مورد استفاده مجرمان و کلاهبرداران از فناوری هوش مصنوعی برای فریب مردم به منظور به دست آوردن پول افزایش یافته است.

دانشمندان کشف کرده اند که مردم تنها در 73 درصد مواقع می توانند تفاوت بین گفتار واقعی و دیپ فیک را تشخیص دهند؛ در حالی که گفتار دیپ فیک اولیه ممکن است به هزاران نمونه از صدای یک فرد نیاز داشته باشد تا بتواند صدای اصلی را ایجاد کند.

جدیدترین الگوریتم ها می توانند صدای شخص را با استفاده از یک بخش سه ثانیه ای از صحبت های او بازسازی کند.

تیمی از دانشگاه کالج لندن از الگوریتمی برای تولید و اجرای 50 نمونه گفتار عمیق جعلی بر روی 529 شرکت کننده استفاده کردند.

آن ها فقط توانستند سخنرانی جعلی را در حدود سه چهارم مواقع شناسایی کنند که پس از دریافت آموزش برای تشخیص جنبه های سخنرانی جعلی، تنها کمی بهبود یافت.