جعلی به مدد هوش مصنوعی

جعل عمیق و دنیایی ناآماده برای مواجهه با آن

خبر دروغ یا آنچه در ادبیات سیاسی روز به «فیک نیوز» معروف است به هیج عنوان پدیده تازه‌ای به شمار نمی‌رود. از سرآغاز تاریخ انسان تا کنون ما نه تنها با خبرهای دروغین مواجه بوده‌ایم که گاهی از آن لذت برده‌ایم و در غیبت کردن‌های خویش از آن استفاده کرده‌ایم. اما شرایط در حال تغییری بنیادی است.

چند بار تاکنون در مجالس خانوادگی با این جمله مواجه شده‌اید که: «والله نمی‌دانم، راست و دروغش به گردن راوی اما…». این چنین جمله‌ای مقدمه ای هشدار دهنده برای روایتی است که از صحت آن اطمینان نداریم و البته گاهی پا را پیش‌تر می‌گذاریم و بدون چنین هشداری روایتی که می‌دانیم درست نیست را برای دیگران بازگو می‌کنیم. (خدا نکند اگر با کسی خرده حسابی داشته باشیم.)

استفاده ابزاری از این پدیده نیز موضوع تازه‌ای نیست.

ایده معروف شایعه پراکنی در جنگ روانی، تهمت زنی و انتساب رفتارهای – از دید عموم – غیر قابل قبول برای سلب اعتماد از افراد و یا پیش بردن اهداف سیاسی نیز تازه نیست و در طول تاریخ قدیم و جدید و در گوشه و کنار جهان می‌توان آن را جستجو کرد. درباره این موضوع در ایران معاصر مستند «بهتان» ساخته حسین باستانی قابل توجه است.

فیک نیوزی که واقعیت سیاست را تغییر می دهد

اما اگر فیک نیوز موضوع تازه‌ای نیست، پس چرا در دو سه سال اخیر است که صدای آن را می‌شنویم و قبل‌تر خبر چندانی از آن نبود.

پاسخ ساده است: قدرت اثرگذاری و مهارت فنی که به مدد فناوری نوین باعث می‌شود تا تشخیص اصل از بدل سخت‌تر شده و در عین حال افزایش دامنه نفوذ آن و امکان هدف قرار دادن مخاطبان به شکل خاص و شخصی.

اگرچه بسیاری، رواج موج تازه فیک نیوز را با انتخابات دانلد ترامپ مرتبط می‌دانند؛ اما کمی قبل از آن و در جریان انتخابات خروج انگلستان از اتحادیه اروپا یا برگزیت بود که قابلیت این موضوع به عنوان ابزاری سیاسی مورد توجه و استفاده جدی قرار گرفت.

آقای کامینگ و برگزیت

مدیر یکی از کارزارهای ترک اتحادیه، دومنیک کامینگ بود. او در این کارزار به جای استفاده از روش رایج فرستادن نماینده‌های مجلس به محل‌های از پیش تعیین شده که رای‌دهنده‌ها حضور دارند و یا تماس تلفنی مستقیم با افرادی که نام آن‌ها در فهرست‌های انتخاباتی احزاب مختلف وجود دارد، به کمک گروهی از متخصصان تحلیل داده، به سراغ بخشی از جامعه رفت که از دید رادار احزاب دور بودند. او با کمک این گروه از دانشمندان داده، و با استفاده از اطلاعاتی که از شبکه‌های اجتماعی بزرگ نظیر فیس‌بوک و مانند آن دریافت می‌کردند، بخشی از مخاطب تاثیرگذار ولی خاموش را شناسایی کردند وسپس برای آن‌ها بر اساس نظرسنجی‌های طراحی شده به ظاهر بی‌خطر، تبلیغات هدف‌داری را طراحی کردند که می‌توانست به صورت مستقیم و همزمان تغییر کند و به طور خاص برای هر مخاطب بر اساس داده‌های او طراحی می‌شد.

آن ها مسائلی را در این فرآیند شناسایی کردند که برای این گروه قابل توجه بود. مواردی مانند افزایش روند مهاجرت از شرق اروپا به انگلستان و ایده اینکه مردم مایل به بازپس‌گیری کنترل هستند. کنترلی که معنی مشخصی نداشت اما با بزرگنمایی برخی از خبرهای دروغ نظیر مهاجرت ۷۵ میلیون نفر از اهالی ترکیه به انگلستان و اروپا (۷۵ میلیون نفر کل جمعیت ترکیه به شمار می‌رود) و تاکید بر مبلغی غیرواقعی که این کشور به اتحادیه می‌پردازد، تصوری را در دل رای دهنده‌ها ایجاد می‌کرد.

البته رسانه‌ها نیز که آمادگی مقابله با چنین وضعیتی را نداشتند عملا به ابزاری برای این کارزار بدل شدند.

آن ها برای اینکه اعتدال را در گزارشگری خود رعایت کنند در برابر هر ادعایی مناظره‌ای دو طرفه را ترتیب می‌دادند که در یک سو ممکن بود یک متخصص باشد اما طرف مقابل می‌توانست ادعاهای خود را بدون ارایه سند تکرار کند.

نتیجه شگفت‌انگیز بود. انگلستان رای به خروج از اتحادیه داد و امروز در بحرانی تاریخی به سر می‌برد. درباره این انتخابات این سخنرانی دومنیک کامینگ را می‌توانید ببینید یا وب‌سایت او را مرور کرده و همچنین فیلم برگزیت محصول شبکه HBO درباره این داستان را مشاهده کنید.

فیک نیوز و ترامپ

این رخدادها همزمان با کارزار انتخاباتی ریاست جمهوری ایالات متحده شد و گروه انتخاباتی ترامپ با مدیریت داماد او جراد کوشنر، این ابزار را در مقیاسی بزرگتر به کار گرفت. این مساله در کنار نقشی که بخشی از آگهی دهنده‌های خارجی که حدس زده می‌شد منشا آن‌ها روسیه بوده باشد تاثیر چشمگیری در نتیجه انتخابات داشت و ترامپ را به کاخ سفید برد.

بعد از انتخابات بحث‌های زیادی در این زمینه اتفاق افتاد. نه تنها رابرت مولر مامور بررسی نقش روسیه در انتخابات آمریکا شد که جلسات شنود بسیاری درباره نقش شبکه‌های اجتماعی و فروش داده‌های شهروندان به شرکت‌های تحلیل‌گر مطرح شد. شهادت معروف مارک زاکربرگ و رسوایی فروش داده‌های کاربران به شرکت‌هایی نظیر «کمبریج آنالیتیکا» و همچنین پذیرش تبلیغات هدفمند سیاسی و میزبانی از کارزارهای تبلیغ فیک نیوز تنها نمونه‌ای از این بررسی‌ها بود.

نکته مهم دیگر که این دو سال را برجسته‌تر می‌کند این است که ترامپ در مقابل اتهام اینکه تیم او دروغ می‌گویند و از فیک نیوز استفاده می‌کنند به جای فروروفتن در قالب دفاعی و تلاش برای توجیه خود دست به حمله زد و در یک کلام همه رسانه‌های منتقد – تقریبا همه رسانه‌های اصلی غیر از فاکس نیوز – را به دروغ بودن متهم و آن‌ها را فیک نیوز نامید و حتی در قدمی فراتر از آن رسانه‌های مستقل را دشمن مردم نامید.

حالا ایالات متحده بار دیگر در آستانه فصل طولانی انتخابات ۲۰۲۰ قرار گرفته است و در حالی که به نظر می‌رسد بخشی از رسانه‌ها و سیاستمداران نسبت به آنچه در ۲۰۱۶ اتفاق افتاد درکی کلی پیدا کرده‌اند و دستورالعمل‌هایی را برای جلوگیری از مشارکت در بازپخش خبرهای دروغین تهیه کرده‌اند شمایل تازه‌ای از فیک نیوز طلوع کرده است.

این بار مقابله با این پدیده دشوارتر از هر زمانی و تاثیرگذاری آن – حداقل برای چند سال آینده – می‌تواند فراتر از تصور هر کسی باشد.

جعل ژرف چیست؟

موضوعی که از آن به جعل ژرف یا Deep Fake نام برده می‌شود، به طور خلاصه به معنی استفاده از هوش مصنوعی برای بازسازی و جعل تصویری و صوتی است.

در این روش از یادگیری ژرف یا Deep Learning  برای بازسازی تصاویری با پایه و مبنای واقعی برای روایتی غیر واقعی استفاده می‌شود.

به طور خلاصه در این روش تصاویر هدف و مورد نظر به سیستم معرفی می‌شود و سیستم بر اساس بانک داده‌ای از تصاویر و صداهای موجود پیشین و با کمک روش های نظیر روش یادگیری ژرفی که به Generative Adversarial Network یا GAN موسوم است تصاویر هدف را بر مبنای تصاویر موجود می‌سازد و در نهایت شما شخصیتی را می‌بینید که در حال انجام کار و یا ارhئه سخنانی است که روح آن شخص نیز از آن بی‌خبر است.

دقت این تصاویر و صداها با رشدی که در هوش مصنوعی اتفاق افتاده است به حدی است که حتی ممکن است برخی از کارشناسان را به خطا بیندازد.

در سال ۲۰۱۷، یکی از کاربران ردیت، با استفاده از این روش چهره دیزی ردلی بازیگر سری تازه جنگ ستارگان را در صحنه‌ای از یک رابطه جنسی تولید کرد که بازتاب و جنجال گسترده‌ای یافت و هشداری برای سواستفاده از این روش بود.

در سال ۲۰۱۸ جوردن پیل کارگردان فیلم‌های «برو بیرون»  (Get Out) و «ما» (US) با استفاده از این تکنیک سخنرانی از باراک اوباما را جعل کرد (فقط از نظر صوری و نه صوتی) که درباره خطر دیپ‌فیک هشدار می‌داد. (ویدیو زیر)

چند وقت پیش تبلیغی علیه مالاریا منتشر شد که در آن دیوید بکام به ۹ زبان مختلف درباره خطر مالریا هشدار می داد اگرچه در این ویدیو از صداهای مختلفی استفاده می شد اما حرکات دهان بکام این فرض را مطرح می‌کرد که او واقعا به این نه زبان سخن می‌گوید. جزییات حرکت عضلات صورت، دهان و گلو در بیان آواهای مختلف خیره‌کننده است. در زیر ویدیو را می‌بینید:

این ویدیو بر مبنای استفاده از فناوری دیپ فیک طراحی شده است. در ویدیو زیر می‌توانید نحوه درست کردن این تبلیغ را ببینید:

طراحان فناوری مورد استفاده در این تبلیغ معتقدند تا سه سال آینده این فناوری به اوجی می‌رسد که هیچ تفاوتی را نمی توان بین آن و تصویری واقعی قائل شد.

ماییم و موج دروغ

سوال مهم این است که آیا مردم در فضای سیاسی آماده چنین پدیده‌ای هستند؟

برخی از رسانه‌ها که از رودست خوردن در دوره‌های پیشین ناخرسندند در تلاش هستند تا در این مورد از روند جلو بیفتند و خود را به ابزارهایی مجهز کنند که بتوانند اصل را از بدل تشخیص دهند.

روزنامه واشنگتن پست و بخش هوش مصنوعی آن در تلاش برای مقابله با این پدیده است. همچنین بر اساس گزارش CNN  چندین شرکت فناوری در تلاشند تا ابزارهایی برای کمک به تشخیص این پدیده را آماده کنند.

در جایی که اعتماد به رسانه‌ها کاهش یافته است آیا حتی در صورتی که رسانه‌های اصلی بتوانند از این ابزار برای تفکیک اصل و دروغ استفاده کنند، ما تا چه حد به نظر آن‌ها اعتماد می‌کنیم. در حالی که یک طیف سیاسی رسانه را به طور کلی دروغ و دشمن مردم می‌نامد چه کسی می‌تواند به کجا اعتماد کند؟

آیا ایرانیان در مقابل دیپ فیک آماده هستند؟

سوال مهم تر برای ما این است که آیا ما درایران برای چنین پدیده‌ای مهیا هستیم؟ ما در دورانی که هنوز خبری از این پدیده نیست چنان به بازار شایعه وابسته هستیم که شبکه های تلگرام ما می‌تواند نقش کارزاری اثرگذار را بر مبنای دروغی محض بازی کند. حالا تصور کنید ما در یکی از این شبکه‌ها تصویری از یک سیاستمدار، بازرگان، دانشمند یا هر کس دیگری را ببینیم که مشغول کاری بر خلاف نظر ما است. چند درصد ما آمادگی این را داریم که در صحت چیزی که می‌بینیم تردید کنیم؟ برای کسب اطلاع از اصالت ماجرا به کجا مراجعه خواهیم کرد؟

این ها سوال هایی است که شاید الان پاسخی برای آن نداشته باشیم اما یک راه برای آماده شدن در این مسیر این است که مخاطبان را از وجود چنین فناوری و امکانی آگاه کنیم و به آن‌ها یادآور شویم که در دنیایی که فناوری ما شاهد چنین پیشرفتی است دیگر نمی توان حتی به آنچه چشم می‌بیند اعتماد کامل کرد بلکه باید راه‌های اعتماد تازه‌ای را شناخت.

دیدگاهتان را بنویسید

*

این سایت از اکیسمت برای کاهش هرزنامه استفاده می کند. بیاموزید که چگونه اطلاعات دیدگاه های شما پردازش می‌شوند.