A Apple atualizou as regras de análise da App Store para tratar explicitamente dois problemas: aplicativos que criam imagens íntimas sem consentimento, inclusive com inteligência artificial, e programas que escondem funções durante a avaliação. As mudanças dão aos revisores uma base mais direta para remover software e, em casos graves, encerrar contas de desenvolvedores.

A regra 1.2 passa a citar conteúdo íntimo não consensual, incluindo material gerado ou alterado por IA. Aplicativos com conteúdo produzido por usuários devem oferecer prevenção, filtragem, denúncia e bloqueio. A obrigação não se limita a apagar uma imagem depois da reclamação; o desenvolvedor precisa demonstrar mecanismos que reduzam a criação e a circulação do abuso.

A formulação mira serviços conhecidos como nudify, capazes de simular nudez a partir de fotografias comuns. Embora algumas plataformas se apresentem como ferramentas de edição, o resultado pode violar privacidade e ser usado para assédio. Ao nomear esse tipo de conteúdo, a Apple reduz o espaço para argumentar que a regra anterior não cobria explicitamente imagens sintéticas.

Outra alteração aparece na regra 2.5.19. Ela proíbe funções escondidas, adormecidas ou não documentadas que sejam ativadas depois que o aplicativo passa pela revisão. É uma resposta ao chamado bait-and-switch, quando a versão enviada à loja parece inofensiva, mas muda de comportamento por controle remoto, atualização interna ou configuração oculta.

Para desenvolvedores legítimos, a consequência prática é maior necessidade de documentação. Recursos, fluxos de conteúdo e controles remotos precisam ser explicados à equipe de análise. Se uma função depende de servidor, experimento ou liberação posterior, ela não pode contradizer a experiência apresentada no envio. Ocultar comportamento pode levar à remoção do app e à perda de acesso ao programa de desenvolvimento.

As duas regras tratam de confiança sob ângulos diferentes. No primeiro caso, a plataforma exige responsabilidade sobre o que usuários e modelos produzem. No segundo, exige correspondência entre o software analisado e o que chega ao consumidor. Em ambos, a App Store deixa claro que a aparência inicial de conformidade não basta quando o risco surge depois da instalação.

O efeito dependerá da aplicação. Sistemas de IA mudam rapidamente, e funções prejudiciais podem ser apresentadas com nomes neutros. A revisão precisará combinar testes, denúncias e acompanhamento posterior. Ainda assim, a atualização cria critérios mais objetivos: imagens íntimas sem consentimento não são um uso aceitável de IA, e um aplicativo não pode guardar uma segunda identidade para ativá-la depois de aprovado.