به گزارش MacRumors، اپل قوانین بازبینی اپاستور را برای مقابله با تصاویر صمیمی تولیدشده با هوش مصنوعی و بدون رضایت افراد گسترش داده است. طبق دستورالعمل به‌روزشده، توسعهدهندگان باید به‌طور پیشگیرانه از تولید و انتشار چنین دیپ‌فیک‌هایی در پلتفرم خود جلوگیری کنند و در صورت وجود، آن‌ها را حذف کنند؛ در غیر این صورت اپلیکیشن‌شان از اپاستور برداشته میشود.
چه چیزی در بند ۱.۲ تغییر کرد؟
محتوای صریح جنسی پیش‌تر هم در اپاستور ممنوع بود، اما بند ۱.۲ حالا به‌صراحت به اپلیکیشن‌های تولید محتوا با هوش مصنوعی اشاره میکند. یعنی دیگر کافی نیست که توسعه‌دهنده بگوید محتوای مجاز را هدف گرفته است؛ او باید سازوکار واقعی برای پیشگیری از سوءاستفاده و حذف سریع محتوای آسیب‌زا در نظر بگیرد. این تغییر عملاً مسئولیت را از کاربر نهایی به سازنده‌ی ابزار منتقل میکند.
اشاره‌ی غیرمستقیم به Grok؟
به نوشته‌ی منبع، این بند میتواند اپلیکیشن‌هایی مانند Grok را هدف گرفته باشد. کاربران بارها از استفاده‌ی چت‌بات Grok متعلق به شرکت xAI برای ساخت دیپ‌فیک‌های برهنه و جنسی شکایت کرده‌اند. اوایل امسال هم اپل به xAI هشدار داده بود که اگر اجازه‌ی تولید دیپفیک برهنه ادامه پیدا کند، Grok را از اپاستور حذف خواهد کرد. xAI پس از آن محدودیت‌هایی اعمال کرد و اپل نسخهی بهروزشدهی اپلیکیشن را تأیید کرد. قوانین تازه، این رویه‌ی موردی را به یک چارچوب رسمی و عمومی تبدیل میکند.
بند ۲.۵.۱۹ و مقابله با «طعمه و تعویض»
اپل همچنین بند تازه‌ی ۲.۵.۱۹ را اضافه کرده است. بر اساس آن، توسعه‌دهندگانی که قابلیت‌ها یا عملکردهایی را به اپ اضافه کنند که در نسخهی ارسالی برای بازبینی وجود نداشته، با خطر حذف از اپاستور و برنامهی توسعهدهندگان اپل روبه‌رو میشوند. اپل این قاعده را به اپ‌های «نودیفای» (Nudification) گره زده؛ ابزارهایی که از عکس افراد واقعی بدون رضایتشان تصاویر جنسی می‌سازند. به نظر می‌رسد برخی از این اپ‌ها هدف واقعی خود را هنگام بازبینی پنهان کرده و قابلیت مذکور را پس از تأیید فعال می‌کردند؛ تاکتیکی که به «bait-and-switch» معروف است.
به این ترتیب، اپهایی با قابلیت‌های پنهان یا مستندنشده و نیز اپهایی که هدفشان را در فرایند بازبینی نادرست معرفی میکنند و تنها بعد از انتشار، توانایی‌های مضر را آشکار می‌سازند، صراحتاً ممنوع هستند.
گسترش ممنوعیت به توزیع جایگزین
در بخش ۵ هم اپل ممنوعیت اپهایی را که قاچاق انسان یا استثمار کودکان را تسهیل میکنند، به توزیع جایگزین اپلیکیشن (فروشگاه‌ها و روش‌های غیر از اپاستور رسمی) تعمیم داده است. این نشان می‌دهد اپل حتی در محیط‌هایی که قوانین اروپا اجازه‌ی عرضه‌ی خارج از اپاستور را داده، می‌خواهد برخی خطوط قرمز را حفظ کند.
اپل در پست اخبار توسعهدهندگان نوشته است: «ما در حذف اپ‌ها و لغو حساب توسعه‌دهندگانی که این دستورالعمل‌ها را نقض کنند، تردید نمی‌کنیم.» متن کامل دستورالعمل‌های به‌روزشده در وب‌سایت اپل در دسترس است.
پیامد برای توسعهدهندگان و کاربران
برای توسعهدهندگان ابزارهای تولید تصویر و ویدیو با هوش مصنوعی، این یعنی لزوم ساخت فیلترهای قوی‌تر، سازوکار گزارش‌دهی و پایش مداوم خروجی مدل‌ها. برای کاربران عادی نیز میتواند به معنای کاهش دسترسی به ابزارهایی باشد که از آن‌ها برای آزار و تحقیر دیگران استفاده میشود. هنوز باید دید اپل این قوانین را تا چه حد یکسان و قاطع اجرا میکند، اما پیام آن روشن است: بهانه‌ی «ما فقط ابزار هستیم» دیگر در اپاستور پذیرفته نیست.
منبع: MacRumors
