苹果 App Store 新规落地，AI 深度伪造迎来最严审核
苹果公司在10月16日（本周三）对其《App审核指南》进行了更新，特别在1.2条款中强化了对AI内容创作类应用的监管，明确将AI生成的、未获当事人同意的私密图像列为禁止内容。
以下是修订条款的具体内容：
1.2 用户生成内容
涉及用户生成内容的App面临特定挑战，包括知识产权侵权、未经授权传播私密图像、匿名霸凌等。为防止滥用，包含用户生成内容或社交网络服务的App必须符合以下要求：
- 采取相应措施筛选令人反感的内容，避免其在App中发布
- 设立举报机制，用于报告攻击性内容并在发现问题时迅速响应
- 如果用户发布攻击性内容，可取消其使用服务的资格
- 提供联系信息，方便用户与你取得联系
科技媒体9to5Mac指出，此次调整的直接原因，是过去一年App Store引发的多起争议。科技透明度项目曾发现数十款AI“裸体化”应用，并指出App Store的搜索建议和广告也会引导用户接触这类应用；随后，旧金山官员要求苹果下架8款能生成未经同意私密图像的应用。
此外，用户曾投诉xAI的Grok聊天机器人被用于制作裸体或性化深度伪造图像；今年早些时候，苹果曾警告xAI，如果继续放任此类内容，将把Grok从App Store移除。xAI随后增加了防护措施，更新版本才获得批准。
苹果还新增了2.5.19条规则，禁止应用在审核时隐瞒真实功能，通过后再加入“裸露化”等有害能力。这种“先过审、后解锁”的手段被称为“诱饵式营销”，今后可能导致应用被下架，开发者也可能被终止Apple Developer Program资格。
同时，苹果将禁止助长人口贩卖或剥削儿童的应用的范围，扩大至替代应用分发渠道，并表示对违规应用和开发者“不会犹豫”采取下架或终止合作等措施。