Apple ужесточила правила App Store для ИИ, скрытых функций и вредоносного контента

Apple обновила правила проверки приложений для App Store, усилив требования к пользовательскому контенту, скрытым возможностям программ и защите несовершеннолетних. Изменения появились на фоне серии расследований и скандалов, связанных с приложениями, которые обходили модерацию и использовались для распространения вредоносного или неуместного контента.

В течение последнего года организация Tech Transparency Project находила в App Store приложения на базе искусственного интеллекта, предназначенные для создания интимных изображений без согласия людей. В январе исследователи обнаружили десятки таких сервисов, а в апреле сообщили, что поисковые подсказки и рекламные объявления магазина также могли направлять пользователей к подобным продуктам.

В июле власти Сан-Франциско потребовали удалить восемь приложений, способных генерировать интимные изображения без согласия людей, оказавшихся на них. В том же месяце расследование 9to5Mac выявило приложения, маскировавшие азартные игры под обычные игры и утилиты. Для пользователей за пределами Бразилии они работали заявленным образом, однако при подключении с бразильского IP-адреса открывали скрытые платформы для азартных игр. Некоторые из этих программ были доступны детям.

Отдельный скандал вызвал чат-бот Grok компании Илона Маска. С его помощью создавались сексуализированные изображения женщин и несовершеннолетних без их согласия. После требований законодателей и общественных организаций удалить из App Store платформу X и Grok Apple подтвердила, что предупреждала xAI: при отсутствии решения проблемы чат-бот может быть исключён из магазина.

Новые требования к пользовательскому контенту

В разделе 1.2 App Review Guidelines Apple отдельно указала на риски приложений, которые позволяют пользователям создавать, генерировать, загружать, распространять или иным образом производить контент. Среди угроз компания назвала нарушение авторских прав, создание интимных изображений без согласия участников и анонимную травлю.

Разработчики обязаны внедрять соответствующие меры защиты и устранять нарушения после получения уведомления. Если они этого не делают, Apple может признать компанию нарушившей «Кодекс поведения разработчиков». Формулировка распространяется в том числе на сервисы с генеративным искусственным интеллектом и другие продукты, работающие с пользовательскими публикациями.

Запрет на скрытые возможности и подмену функционала

Apple также уточнила правила для приложений с так называемой подменой функционала. Речь идёт о программах, которые во время проверки демонстрируют одно назначение, а после одобрения включают вредоносные или недокументированные возможности — например, функцию создания изображений с «раздетыми» людьми.

В новом пункте 2.5.19 говорится, что приложение не должно содержать скрытых, неактивных или недокументированных функций. Его возможности должны быть понятны и пользователям, и специалистам App Review. Попытки спрятать такие функции в бинарном коде, включая использование обфускации, могут привести к удалению приложения из App Store и аннулированию учётной записи разработчика.

Запрет на скрытые функции уже существовал в пункте 2.3.1, однако теперь Apple сформулировала его более подробно и прямо упомянула обфускацию кода. Компания также подчеркнула, что нарушение может повлечь не только блокировку конкретного приложения, но и закрытие аккаунта разработчика.

Торговля людьми и приложения для вайб-кодинга

В разделе 5, посвящённом юридическим вопросам, Apple ужесточила формулировки в отношении программ, которые способствуют торговле людьми или эксплуатации детей. Такие приложения будут удаляться из App Store, а их распространение через альтернативные каналы — блокироваться.

Кроме того, обновлённые правила затрагивают приложения, использующие искусственный интеллект для так называемого вайб-кодинга. Они не должны запускать код, способный изменять собственную функциональность или функциональность других сервисов. Таким образом, Apple формализовала ограничения, о которых ранее сообщалось в связи с незаметными мерами против подобных приложений.