مبارزه برای تشخیص ویدئوهای جعلی سخت‌تر شد

با پیشرفت تکنولوژی Deepface، تشخیص ویدئو واقعی از جعلی کار سختی شده است. خوشبختانه گروه‌های متعددی کانال‌های عصبی مبهمی برای شناسایی چهره‌های فیک گسترش داده‌اند؛ ولی دانشمندان حوزه رایانه‌ای هفته گذشته موفق به پیدا کردن راهی شدند که به‌وسیله آن می‌شود قوی‌ترین برنامه‌های تشخیص صحت ویدئو را دچار خطا کرد.

طبق گزارش Tech Spot، محققان دانشگاه ایالتی سن‌دیگو، روشی پیدا کرده‌اند که بوسیله آن می‌توان الگوریتم‌های آموزش دیده برای پیدا کردن فیلم‌های جعلی را گمراه کرد. این روش دو مرحله‌ای است و بوسیله آن می‌توان لایه‌هایی خاص به هر فریم اضافه کرد که جعلی بودن آن را مخفی کند.
بخش‌های اضافه شده در حقیقت تصاویر دست‌کاری شده‌ای هستند که باعث بوجود آمدن هرج‌ و مرج در سامانه یادگیری ماشینی می‌شوند و به همین دلیل اصالت ویدئو به اشتباه مورد تایید قرار می‌گیرد. مثال قابل درک برای این مطلب، استفاده از چسب برق و استیکر برای پنهان کردن قسمت‌هایی از نشانه‌های راهنمایی و رانندگی است که از این طریق ماشین‌های خودران تابلوها را اشتباه تشخیص می‌دهند.
در روش فوق، برعکس تابلوهای دستکاری شده، فیلم دچار خدشه نمی‌شود و در نهایت تغییری در ظاهر تصویر به‌وجود نمی‌آورد.
این مشخصات از اهمیت خاصی برخوردارند، زیرا که قرار است فیلم‌های جعلی، انسان و ماشین را گمراه کند و اگر این جعل با چشم انسان قابل تشخیص باشد دیگر نیازی به استفاده از برنامه‌ی خاصی برای بررسی کردن این مسئله نیست.
محققان در این مورد 2 روش را معرفی کرده‌اند که یکی از آن‌ها جعبه‌سفید (Withe Box) و دیگری جعبه‌سیاه (Black Box) می‌باشد. هر دو روش در حدی از پیشرفت قرار دارند که می‌توانند بهترین سیستم‌های تشخیص را دچار خطا کنند.
از چند سال گذشته که ویدئوهای متعددی با روش دیپ‌فیک ساخته و در فضای مجازی پخش شد، بحث و جدل فراوانی در خصوص این تکنولوژی به‌ وجود آمد. به‌دلیل شباهت چهره‌های جعلی در دیپ‌فیک به سلبریتی‌ها اولین بار این تکنولوژی باعث عصبانیت چهره‌های مشهور شد.
با پیشرفت این سیستم و با نشر ویدئوهای جدیدتر، معلوم شد که از آن می‌شود در تبلیغات و یا حتی اهداف خطرناکی استفاده کرد.
اولین مراکزی که دست به ایجاد الگوریتمی برای شناسایی دیپ‌فیک زدند، دانشگاه‌ها بودند و بلافاصله بعد از آن‌ها وزارت دفاع آمریکا شروع به پیگیری این موضوع کرد.
در حال حاضر چندین صاحب نام در حوزه فناوری مانند توییتر، فیس‌بوک و مایکروسافت در حال گسترش راه‌هایی برای شناسایی دیپ‌فیک‌ها هستند. محققان به این نتیجه رسیدند که، بهترین راه مقابله با این موضوع، آموزش برنامه‌های هوش مصنوعی است که برای این‌کار طراحی شده‌اند.

نویسنده:ل.ق