Apple запретила скрытые nudify-функции в приложениях для App Store
Apple обновила правила для разработчиков App Store: компания прямо запретила приложениям скрывать или не документировать функции, в том числе инструменты «раздевания» людей с помощью ИИ, а затем раскрывать их после одобрения. Такие сервисы могут маскироваться под обычные приложения при проверке и добавлять вредоносные возможности уже после публикации.
Компания также уточнила требования к приложениям с пользовательским контентом. Они должны фильтровать неприемлемые материалы, предоставлять пользователям механизм жалоб на оскорбительный контент и позволять блокировать аккаунты, нарушающие правила.
Запрет на подмену функциональности
В блоге Apple назвала скрытые и неописанные функции недопустимыми для App Store. Отдельно упомянута практика bait-and-switch: разработчик показывает на ревью одну цель приложения, а после одобрения открывает другую, потенциально вредоносную функцию. В качестве примера Apple указала nudification — создание изображений с имитацией обнажения человека.
Apple заявила, что будет удалять приложения, которые добавляют возможности, отсутствовавшие в версии, переданной на проверку. Формулировка распространяется не только на сам факт наличия такой функции, но и на попытки представить продукт ревьюерам не так, как он будет работать для пользователей.
Контекст давления на магазины приложений
В юридическом разделе правил Apple усилила запрет на приложения, продвигающие торговлю людьми и эксплуатацию детей. Изменения появились после того, как Сан-Франциско потребовал от Apple и Google удалить nudify-приложения: требование Сан-Франциско убрать nudify-приложения фиксирует, что городская прокуратура связывала проблему с доступностью таких сервисов в цифровых магазинах.
Apple сообщала, что в прошлом году не допустила к пользователям более 150 тысяч приложений, а также удалила 193 тысячи аккаунтов разработчиков из-за мошенничества и злоупотреблений. В апреле Tech Transparency Project указывал, что в магазинах Apple и Google находились несколько nudify-приложений, а часть из них имела возрастные рейтинги, допускающие несовершеннолетних.
Что учитывать разработчикам
Разработчикам ИИ-сервисов и платформ с пользовательскими публикациями важно сверять фактический набор функций с версией, отправленной на ревью, и описывать его без скрытых сценариев. Для публикации в App Store необходимы работающая модерация, обработка жалоб и блокировка злоупотребляющих аккаунтов: новые правила делают эти механизмы частью требований к продукту, а не дополнительной опцией.