سان، فیسبوک تا پیش از فصل انتخابات آمریکا، برای جلوگیری از سوءاستفاده با دیپ فیک و تاثیر منفی بر رای‌دهندگان، شروع به پرچم‌گذاری تصاویر ساخته شده با هوش مصنوعی خواهد کرد.
متا، شرکت مادر فیسبوک و اینستاگرام، می‌گوید که تصاویر واقع‌گرایانه ایجاد شده با استفاده از هوش مصنوعی متا را با برچسب «ساخته‌شده با هوش مصنوعی» برچسب‌گذاری می‌کند. فناوری و روش‌های کنونی به این شکل است که متا فقط می‌تواند این برچسب را روی تصاویر ایجاد شده توسط سازنده تصویر هوش مصنوعی خود به نام Llama پین کند.
- ویدیوهای جعلی از این پلتفرم حذف نمی شود
این غول فناوری ظاهرا با شرکای صنعت روی یک استاندارد جهانی برای شناسایی محتوای ساخته شده توسط ابزارهای هوش مصنوعی دیگر شرکت‌ها کار می‌کند. این شامل ویدئو، صدا و همچنین تصاویر است.
نیک کلگ، رئیس امور جهانی متا، در اطلاعیه‌ای گفت: «از آن‌جایی که تفاوت بین محتوای انسانی و مصنوعی از بین می‌رود، مردم می‌خواهند بدانند که مرز کجاست. مردم اغلب برای اولین‌بار با محتوای تولیدشده توسط هوش مصنوعی مواجه می‌شوند و کاربران ما به ما گفته‌اند که از شفافیت پیرامون این فناوری جدید، استقبال می‌کنند. بنابراین مهم است که به مردم کمک کنیم بدانند چه زمانی محتوای واقعی می‌بینند و چه زمان محتوای ساخته‌شده با هوش مصنوعی.»
این برچسب در ماه‌های آینده در سراسر فیس بوک، اینستاگرام و Thread ها منتشر خواهد شد. شبیه‌سازی‌های هوش مصنوعی که به عنوان دیپ‌فیک نیز شناخته می‌شوند، قبلا برای جعل هویت سیاستمداران در ایام انتخابات استفاده شده‌اند.
یک ماه قبل از انتخابات عمومی بریتانیا در سال ۲۰۱۹، یک ویدیوی دیپ فیک از جرمی کوربین در حالی که از بوریس جانسون، رقیب خود حمایت می‌کند، در فضای مجازی منتشر شد. هفته گذشته، یکی از افسران اطلاعات سابق کاخ سفید هشدار داد که احتمالا دیپ فیک و محتوای ایجاد شده توسط هوش مصنوعی به عنوان تبلیغات قبل از انتخابات ایالات متحده مورد استفاده قرار خواهد گرفت.
کلگ گفت: مهم است که متا - و فیسبوک - در مورد محتوای دیپ فیک یک قدم جلوتر باشند. ما این رویکرد را تا سال آینده که طی آن تعدادی انتخابات مهم در سراسر جهان برگزار می‌شود، در پیش خواهیم گرفت، چرا که احتمالا فضای انتخاباتی ملتهب و خصمانه خواهد بود.
