همشهری آنلاین، فرخنده رفائی: اپل در پی افزایش فشارهای حقوقی، تعدادی از اپلیکیشنهای هوش مصنوعی موسوم به «Nudify» را از فروشگاه اپ استور حذف کرده؛ برنامههایی که با استفاده از تنها یک عکس، تصاویر برهنه جعلی از افراد تولید میکنند. این اقدام پس از آن انجام شد که «دیوید چیو»، دادستان شهر سانفرانسیسکو، با ارسال اخطار رسمی به اپل و گوگل، این دو شرکت را به تسهیل انتشار چنین برنامههایی متهم کرد.
به گزارش دیجیتالترندز، مقامهای ایالت کالیفرنیا در حالی خواستار قطع همکاری این دو شرکت با توسعهدهندگان چنین نرمافزارهایی شدهاند که بر اساس این شکایت، اپل و گوگل علاوه بر میزبانی این اپلیکیشنها، از طریق خریدهای درونبرنامهای نیز از آنها درآمد کسب کردهاند.
اپل در واکنش اعلام کرده است که سه اپلیکیشن معرفیشده را از اپ استور حذف کرده و حساب توسعهدهندگان آنها نیز در حال مسدود شدن است. همچنین به چهار توسعهدهنده دیگر هشدار داده شده که در صورت اصلاح نکردن برنامههای خود، از اپ استور حذف خواهند شد.
این شرکت تأکید کرده است که اپلیکیشنهای تولید یا انتشار محتوای غیراخلاقی از ابتدا نیز برخلاف قوانین اپ استور بودهاند و چنین برنامههایی بهطور مداوم شناسایی و حذف میشوند. اپل همچنین مسئولیت محتوای تولیدشده در هر برنامه را بر عهده توسعهدهندگان دانسته و اعلام کرده است برنامههایی که امکان تولید محتوای کاربر را فراهم میکنند، باید ابزارهای مؤثری برای جلوگیری از سوءاستفاده داشته باشند.
گوگل نیز اعلام کرده تاکنون صدها اپلیکیشن اندرویدی دارای قابلیت تولید تصاویر برهنه جعلی را تعلیق کرده و امکان جستوجوی واژههایی مانند «nudify» را در پلیاستور محدود ساخته است. پنج برنامهای که در شکایت دادستان سانفرانسیسکو به آنها اشاره شده بود نیز از فروشگاه گوگل حذف شدهاند.
- اوپنایآی عقبنشینی کرد | بازگشت قابلیتهای حذفشده به ChatGPT دسکتاپ
- از کنترل والدین تا محدودیت ارائه محتوا | اوپنایآی نسخه زیر ۱۸ سال «چتجیپیتی» را فعال کرد
- تغییر سیاست اوپنای آی | سورا استفاده از محتوای دارای کپی رایت را محدود می کند
با این حال، کارشناسان معتقدند حذف چند اپلیکیشن تنها بخشی از مشکل را حل میکند. پرسش اصلی این است که چگونه چنین برنامههایی توانستهاند از فرایندهای سختگیرانه بررسی اپ استور و پلیاستور عبور کنند. بسیاری از این اپلیکیشنها خود را بهعنوان نرمافزارهای معمولی ویرایش عکس یا تعویض چهره معرفی میکنند و قابلیت تولید تصاویر غیراخلاقی را تنها پس از نصب یا از طریق خریدهای درونبرنامهای در اختیار کاربران قرار میدهند.
گسترش هوش مصنوعی مولد باعث شده ساخت «دیپفیک» های غیراخلاقی بسیار سادهتر از گذشته شود. اکنون تنها با یک عکس میتوان در چند ثانیه تصاویر یا ویدئوهای جعلی از افراد واقعی تولید کرد؛ موضوعی که به گفته مقامهای آمریکایی، پیامدهایی مانند آزار و اذیت، اخاذی، تخریب اعتبار و آسیبهای روانی برای قربانیان به همراه داشته است. تحقیقات اخیر نیز نشان داده بسیاری از اپلیکیشنهای ظاهرا عادی تعویض چهره، همچنان قادر به تولید چنین تصاویر جعلی هستند و در بسیاری از موارد، سازوکار مؤثری برای جلوگیری از سوءاستفاده در آنها وجود ندارد.
