شرکت "فیسبوک" سیستم جدیدی برای تشخیص فناوری "دیپ فیک"(Deepfake) یا همان "جعل عمیق" ساخته است تا با استفاده از یک روش مهندسی معکوس بتواند استفاده از این فناوری را در تصاویر مختلف تشخیص دهد.
- شرکت "فیسبوک" سیستم جدیدی برای تشخیص فناوری "دیپ فیک"(Deepfake) یا همان "جعل عمیق" ساخته است تا با استفاده از یک روش مهندسی معکوس بتواند استفاده از این فناوری را در تصاویر مختلف تشخیص دهد.
به گزارش سایت قطره و به نقل ازایسنا و به نقل از آی ای، در حالی که ممکن است ما عادت کرده باشیم از فناوری موسوم به "جعل عمیق" برای طیف وسیعی از کارهای نسبتاً بی ضرر استفاده شود، اما از این فناوری می توان برای ایجاد محتوای مخرب نیز مانند انداختن صورت شخص دیگری در یک صحنه ناشایست یا آسیب رساندن به حرفه یک سیاستمدار استفاده کرد.
تصاویری که مورد دستکاری "جعل عمیق" قرار می گیرند در واقع فیلم ها یا عکس های تغییر یافته دیجیتالی از چهره یک یا چند شخص با استفاده از هوش مصنوعی است که می تواند کاملاً واقعی به نظر برسد.
این تصاویر به قدری می توانند مخرب باشند که سال گذشته ایالت کالیفرنیا استفاده از این فناوری را در حوزه سیاست و پورنوگرافی ممنوع کرد.
ما به راحتی با این فناوری فریب می خوریم و آنچه را که در تصاویر می بینیم، باور می کنیم و این فناوری نیز هر روز در حال بهبود یافتن است.
محققان شرکت "فیسبوک" و دانشگاه "میشیگان" برای مقابله با دست به دست شدن و انتشار ویروسی چنین تصاویر تغییر یافته ای، روش جدیدی را برای شناسایی "جعل عمیق" ایجاد کرده اند که می تواند دریابد که از کدام مدل تولیدی برای ایجاد آنها استفاده شده است.
این تیم امیدوار است که این روش، ابزاری برای بررسی بهتر انتشار اطلاعات غلط با استفاده از "جعل عمیق" بوده و همچنین راهی برای گشودن مسیرهای جدید برای تحقیقات آینده در اختیار محققان قرار دهد.
سیستم های تشخیص "جعل عمیق" از قبل نیز به وجود آمده بودند، اما به دلیل اینکه این سیستم ها معمولاً برای شناسایی مدل های تولیدی خاص آموزش می بینند، به محض اینکه مدل دیگری (مدلی که سیستم برای آن آموزش ندیده است) ظاهر می شود، سیستم نمی تواند بفهمد که این "جعل عمیق" از کجا آمده است.
اما سیستم جدید فیسبوک چگونه کار می کند؟ تیم سازنده تصمیم گرفت یک گام به جلو حرکت کند و سیستم را فراتر از مجموعه محدود مدل های ارائه شده آموزش دهد و با روش مهندسی معکوس آن را قادر سازد تا هر نوع "جعل عمیق" را شناسایی کند.
"هاسنر" از فیسبوک گفت: روش مهندسی معکوس ما متکی به کشف الگوهای منحصر به فرد پشت مدل هوش مصنوعی است که برای تولید یک تصویر "جعل عمیق" استفاده می شود.
تیم سازنده می گوید" ما با تجزیه مدل می توانیم خصوصیات مدل های مولد مورد استفاده برای ایجاد هر "جعل عمیق" را تخمین بزنیم و حتی چندین "جعل عمیق" را به مدلی که احتمالاً آنها را تولید کرده است، مرتبط کنیم.
این سیستم اطلاعات مربوط به هر "جعل عمیق" را حتی آن مدل هایی که اطلاعات قبلی درباره آنها وجود نداشته است، ارائه می دهد.
این تیم سیستم خود را با استفاده از یک مجموعه داده تصویری "جعل عمیق" متشکل از 100 هزار تصویر مصنوعی که از 100 مدل مختلف مولد در دسترس عموم تولید شده است، آموزش داد و نتایج به طور قابل توجهی بهتر از مدل های تشخیصی قبلی بود.
این نوع از سیستم تشخیص "جعل عمیق" به خصوص برای سازمان های دولتی، پلیس و رسانه های اجتماعی که به شدت تلاش می کنند این اطلاعات جعلی منتشر نشود، می تواند مفید باشد.
تاکنون هیچ تاریخی در مورد زمان اجرا و در دسترس عموم قرار گرفتن این سیستم به اشتراک گذاشته نشده است، اما محققان در حال کار بر روی چنین روش هایی هستند.
انتهای پیام
کلید واژه ها: استفاده - فناوری - مهندسی معکوس - تشخیص - تصاویر - مهندسی - توان - گزارش ایسنا - معکوس - مختلف - سیستم - سیاستمدار - همان - شرکت - دستکاری - رساندن - گزارش - تغییر - دیگری - ایسنا - عادت - مورد - قرار - فیلم - صحنه - حرفه - آسیب - صورت
