بسیاری از کارشناسان نسبت به رشد سریع ویدئو‌های جعل عمیق یا «دیپ فیک» هشدار می‌دهند. آنچه به عنوان فناوری جعل عمیق شناخته می‌شود، کپی‌های جعلی از چهره افراد است که کاملا طبیعی به نظر می‌رسد. در این ویدئو‌ها از تکنیک‌های هوش مصنوعی برای تغییر چهره افراد استفاده می‌شود تا علاوه بر چهره، صدا نیز شبیه به واقعیت باشد.

سایت کانورزیشن درباره این فناوری نوشته که ویدئو‌های دیپ فیک به طرز وحشتناکی در شبکه‌های اجتماعی، به ویژه تیک تاک در حال پخش شدن هستند. از جمله ویدئو‌های افراد مشهوری مانند تام کروز، بازیگر و سران کشور‌ها مانند اوباما، رئیس جمهور سابق ایالات متحده که تاکنون میلیون‌ها بازدید داشته است.

ساخت این ویدئو‌ها ممکن است از جعل چهره شخصیت‌های معروف به افراد عادی برسد. کارشناسان نگرانند سازندگان این ویدئو‌ها از آن‌ها در کمپین‌های گمراه‌کننده، کلاهبرداری هویتی و افترا به افراد دیگر استفاده کنند. استفاده از این ویدئو‌ها با چهره افراد عادی و سلبریتی‌ها منجر به اختلالات امنیتی و اجتماعی می‌شود.

اگرچه فناوری به کار رفته در این ویدئو‌ها بسیار دقیق است و استفاده از آن‌ها به قابلیت‌ها و ابزار‌های بالایی نیاز دارد، اما به مرور زمان دسترسی به آن‌ها آسان شده و از سوی دیگر، برنامه‌هایی وجود دارند که می‌توان با آن‌ها این نوع ویدئو‌ها را ساخت.

خطرات فناوری دیپ فیک

این فناوری مشکلات بسیاری را به همراه دارد. استفاده از آن به‌عنوان اخبار جعلی و اطلاعات نادرست، بی اعتبار کردن افراد مشهور یا حتی ساخت پورنوگرافی جعلی از کاربرد‌های خطرناک دیپ فیک است.

البته خطرناک‌ترین استفاده دیپ فیک، بدنام کردن افراد است. در سال ۲۰۱۹، یک شرکت نرم افزاری به این نتیجه رسید که ۹۶ درصد از ۱۴ هزار ویدئوی دیپ فیک دارای محتوای مستهجن بوده و برای ساخت آن‌ها از برنامه‌های رایگان استفاده شده و انگیزه ساختشان نیز انتقام و باج گیری بوده است.

این فناوری همچنین برای کلاهبرداری مورد استفاده قرار می‌گیرد. در این مورد، پیام‌های ویدئویی به منظور درخواست پول از طرف یک همکار یا آشنای مورد اعتماد به دیگر کاربران ارسال می‌شود. در یک مطالعه تحقیقاتی مشخص شد که در سال ۲۰۲۰ کلاهبرداری هویت با استفاده از دیپ فیک ۲۰ دلار هزینه برای موسسات مالی آمریکا در پی داشته است.

در سال ۲۰۱۹، فیس‌بوک به دلیل عدم حذف ویدئوی جعلی نانسی پلوسی، سیاستمدار و رئیس مجلس نمایندگان آمریکا مورد انتقاد قرار گرفت و در سال ۲۰۲۰، توییتر اشتراک‌گذاری این محتوا‌ها را که می‌توانست مردم را فریب دهد، گیج کند یا به آن‌ها آسیب برساند، ممنوع کرد. البته تیک تاک نیز همین تصمیم را گرفته است.

منبع: فارس