دادستان شهر سان فرانسیسکو با ارسال نامه های «توقف و خودداری» به اپل و گوگل، خواستار حذف مجموعه ای از اپلیکیشن های مبتنی بر هوش مصنوعی شده که می توانند تصاویر برهنه بدون رضایت افراد تولید کنند. به گزارش WIRED، این درخواست ۱۳ اپلیکیشن را هدف گرفته که ۸ مورد از آن ها در App Store و ۵ مورد در Play Store در دسترس بوده اند.
این اپ ها عموما با عنوان ابزار «تعویض چهره» یا face swap معرفی می شوند، اما در عمل از آن ها برای «لباس زدایی» از تصاویر واقعی افراد استفاده می شود؛ موضوعی که به گفته دفتر دادستانی، مصداق تولید محتوای صریح بدون رضایت و از جنس دیپ فیک است.
اتهام «همدستی» در فروش محتوای صریح
در نامه های ارسال شده، از اپل و گوگل خواسته شده نه تنها این برنامه ها را حذف کنند، بلکه همکاری خود با توسعه دهندگان آن ها را نیز قطع کرده و سهم خود از پرداخت های درون برنامه ای را متوقف کنند. استدلال اصلی این است که ادامه میزبانی و کسب درآمد از چنین اپ هایی، به نوعی «کمک و مشارکت» در انتشار محتوای مضر و غیرقانونی محسوب می شود.
دادستان این رویه را «غیرقانونی، آسیب زا و کاملا غیرقابل قبول» توصیف کرده و مدعی شده این دو شرکت از طریق این اپلیکیشن ها میلیون ها دلار کارمزد دریافت کرده اند.
واکنش گوگل: حذف صدها اپ مشابه
سخنگوی گوگل در گفت وگو با WIRED اعلام کرده این شرکت پیش تر «صدها» اپلیکیشن دارای قابلیت های برهنه سازی را به دلیل نقض سیاست ها حذف کرده است. به گفته او، پنج اپی که در نامه دادستانی نام برده شده اند نیز در همین چارچوب از Play Store حذف شده اند.
گوگل مانند اپل، قوانین مشخصی علیه محتوای پورنوگرافیک و سوءاستفاده از هوش مصنوعی دارد و در سال های اخیر چندین موج حذف اپ های متخلف را اجرا کرده است.
موضع اپل: این اپ ها از اساس خلاف قوانین App Store هستند
اپل در بیانیه ای به MacRumors تاکید کرده که گزارش های مربوط به اپ های ناقض قوانین را جدی می گیرد و برای تمام توسعه دهندگان، App Review Guidelines را اعمال می کند؛ دستورالعملی که صراحتا تولید و توزیع محتوای جنسی یا پورنوگرافیک را ممنوع می داند.
این شرکت می گوید اپ های «nudification» یا برهنه ساز از ابتدا در تضاد با قوانین App Store بوده اند و اپل به صورت فعال بسیاری از آن ها را رد یا پس از انتشار حذف کرده است؛ از جمله زمانی که کاربران آن ها را گزارش داده اند.
طبق توضیح اپل، تا این لحظه سه اپلیکیشن از میان موارد مطرح شده حذف شده اند و روند لغو حساب توسعه دهندگان آن ها در حال انجام است. همچنین اپل با چهار اپ دیگر در تماس است تا نقض قوانین را برطرف کنند؛ در غیر این صورت آن ها نیز حذف خواهند شد.
گزارش تخلف توسط کاربران
اپل بار دیگر به ابزار گزارش دهی خود اشاره کرده و گفته کاربران می توانند از طریق وب سایت reportaproblem.apple.com مواردی مانند محتوای غیرقانونی، توهین آمیز، سوءاستفاده گرانه یا حتی کلاهبرداری را گزارش دهند. این گزارش ها یکی از مسیرهای اصلی برای شناسایی و حذف اپ های مشکل دار به شمار می رود.
سخت گیری بیشتر در قوانین اپ استور
ماه گذشته نیز مشخص شد اپل متن دستورالعمل های App Store را در بخش مسئولیت توسعه دهندگان درباره محتوای پورنوگرافیک سخت گیرانه تر کرده است. این تغییر نشان می دهد شرکت به طور جدی تری در حال مقابله با سوءاستفاده از ابزارهای هوش مصنوعی در تولید محتوای حساس است.
در مجموع، هرچند اپل و گوگل پیش تر نیز اقداماتی در این زمینه انجام داده اند، اما نامه رسمی دادستان سان فرانسیسکو فشار حقوقی تازه ای ایجاد کرده که می تواند به حذف گسترده تر این دسته از اپلیکیشن ها منجر شود.
