آشكارسازهای دیپ فیك هم گول می خورند

فیکس سرور: دانشمندان با آزمایش پیشرفته ترین آشکارسازهای فناوری ˮدیپ فیکˮ(deepfake) به مفهوم ˮجعل عمیقˮ ثابت کردند که می توان آنها را نیز فریب داد.

به گزارش فیکس سرور به نقل از ایسنا و به نقل از انگجت، دانشگاه ها، سازمان ها و غول های فناوری مانند مایکروسافت و فیس بوک با کار بر روی ابزارهایی که بتوانند "جعل عمیق" را تشخیص دهند، در تلاش هستند تا از استفاده از آن برای بسط اخبار مخرب و اطلاعات غلط جلوگیری نمایند.
حالا گروهی از دانشمندان علوم کامپیوتر از دانشگاه "سن دیگو" هشدار داده اند که آشکارسازهای "جعل عمیق" هنوز هم با توجه به این ابزارها قابل فریب دادن هستند.
این تیم در کنفرانس بینش کامپیوتری "WACV 2021" که به صورت آنلاین برگزار شد، با درج ورودی هایی در هر فریم ویدیویی نشان داد که چگونه می توان ابزارهای شناسایی "جعل عمیق" را فریب داد.
دانشمندان در اطلاعیه خود توضیح دادند که این ورودی ها تصاویر دستکاری شده ای هستند که می توانند موجب اشتباه سیستم های هوش مصنوعی شوند. اغلب آشکارسازها با ردیابی چهره در فیلم ها و ارسال داده های برشی از چهره به یک شبکه عصبی کار می کنند. فیلم های جعل عمیق قانع کننده هستند، برای اینکه با یک کپی از چهره یک شخص واقعی دستکاری شده اند، اما سیستم ردیاب یا آشکارساز می تواند با مشاهده عناصری مانند پلک زدن که در نسخه جعل عمیق واقعی به نظر نمی رسند، صحت ویدیو را تشخیص دهد.
اما دانشمندان دریافتند که با اعمال ورودی هایی از چهره و قرار دادن آنها در هر فریم از فیلم می توان حتی پیشرفته ترین آشکارسازهای جعل عمیق را نیز فریب داد. بعلاوه، روشی که آنها ابداع کردند، حتی برای فیلم های فشرده نیز کارایی دارد.
بدین سبب توسعه دهندگان چگونه می توانند آشکارسازهایی ایجاد کنند که قابل فریب دادن نباشند؟ دانشمندان سفارش می کنند از "آموزش متخاصم" استفاده گردد. در این حالت یک نمونه جعلی تطبیقی مرتباً نسخه جعلی به وجود می آورد که می تواند آشکارساز را آموزش دهد تا آشکارساز بتواند در تشخیص تصاویر غیر معتبر پیشرفت کند.
پژوهشگران در مقاله خود نوشتند: جهت استفاده از این آشکارسازهای کاربردی جعل عمیق، ما استدلال می نماییم که ارزیابی سیستم در مقابل یک دشمن تطبیقی که از همه چیز آگاه است و می خواهد این دفاع ها را خنثی کند، لازم است.

منبع: فیكس سرور

1399/11/24

23:24:53

0.0 / 5

910

تگهای خبر: آموزش , آنلاین , پژوهش , دانش

این پست فیکس سرور را پسندیدید؟

(0)

تازه ترین مطالب مرتبط

نظرات بینندگان فیکس سرور در مورد این مطلب

نظر شما در مورد این مطلب

نام:

ایمیل:

نظر:

سوال:

= ۴ بعلاوه ۳