随着生成式人工智能在各地的爆炸式增长，谷歌将开始要求Android应用程序包含一种报告攻击性人工智能生成内容的方法，并遵循有关可接受的人工智能内容的新审核规则。

使用人工智能生成内容的应用程序将被要求在明年初添加一个按钮来标记或报告攻击性材料，以便保留在谷歌的Play商店中。

用户应该能够在不需要离开应用程序的情况下进行报告，类似于当今现有的应用程序内报告系统。

该公司表示，其人工智能生成内容政策涵盖人工智能聊天机器人、人工智能生成图像应用程序以及使用人工智能创建真人语音或视频内容的应用程序。托管人工智能生成内容的应用程序、仅使用人工智能来总结书籍等材料的应用程序以及使用人工智能作为功能的生产力应用程序将不受新政策的约束。

对于谷歌来说，有问题的人工智能内容的例子包括未经同意的性内容深度伪造、为诈骗而设计的真人录音、虚假或欺骗性的选举内容、具有“主要目的是性满足”的生成式人工智能应用程序以及恶意代码创建。

谷歌在其声明中承认，生成式人工智能“是一个快速发展的应用类别”，给人的印象是，随着技术的不断发展，它可能会重新审视其人工智能政策。

除了围绕人工智能生成内容的新规则外，谷歌还通过限制应用程序访问数据的范围来加强Play商店的照片和视频权限政策。

该公司表示：“用户设备上的照片和视频被视为个人和敏感的用户数据，应以最大限度的隐私最佳实践进行处理。”“这些敏感信息使用户容易受到泄露或成为利用目标，因此最大限度地减少这种访问有助于避免开发人员处理此类敏感数据的负担。”

只有需要广泛访问照片和视频的应用程序才会继续获得一般权限，而有限使用媒体文件的应用程序将需要使用照片选择器。