当前位置: 欣欣网 > 码农

AI 体验想要更安全?Google Play 来助力!

2024-07-04码农

作者 / Google Play、Android 和 Chrome 信任与安全总监 Prabhat Sharma

生成式 AI 的快速发展为开发者提供了机会,让开发者能为世界各地用户创造全新、引人入胜的沉浸式应用体验。在这个瞬息万变的时代,我们很高兴能继续帮助开发者创建创新、优质的应用,同时保持用户对 的期待,即获得 安全可靠的体验 。我们的目标是 让 AI 惠及每个人 ,丰富应用生态系统并改善用户体验。

  • 安全可靠的体验

    https://play.google/howplayworks/the-latest/#:~:text=Boosting app quality and security

  • 确保具有生成式 AI 功能 应用的
    安全性

    在过去的一年中,我们扩展了审核能力,以解决具有生成式 AI 功能的应用带来的新复杂性。我们正在新增例如大语言模型 (LLM) 等前沿技术快速分析应用提交的内容,包括大量文本,以识别色情内容或仇恨言论等潜在问题,并对其进行标记,以便我们的全球团队成员仔细检查。这种人类专业知识和增强的 AI 效率相结合,有助于我们改善开发者的应用审核体验,并为每个人创造更安全的应用环境。

    此外,我们还加强了 Google Play 的现有 政策 ,以解决用户和开发者的新问题和反馈,并跟上生成式 AI 等技术不断发展的步伐。例如,我们在去年 10 月分享过,在无需离开应用的情况下,所有

  • 政策

    https://support.google.com/googleplay/android-developer/answer/14016515?sjid=15924277170229227348-NC

  • 以负责任的方式构建

    具有生成式 AI 功能的应用

    Google Play 的政策是长期以来一直支持着我们用户安全工作的基础,深深植根于 Google Play 和开发者之间的持续合作。这些政策为负责任的应用开发提供了框架,并有助于确保 Google Play 始终是值得全球信赖的平台。由于生成式 AI 仍处于早期阶段,我们收到了开发者的反馈,希望我们明确 Google Play 对具有 AI 生成内容的应用有何要求。现在,我们将回应这些反馈,并提供指导,帮助开发者提高 AI 驱动应用的质量和安全性,避免应用提交中的潜在问题或延迟, 增强用户信任 ,助力 Google Play 持续打造繁荣且负责任的应用生态系统

  • Google Play 政策回顾 :Google Play 的政策有助于我们提供安全和高质量的体验,因此,我们不允许应用采用可能对用户有害或不当的生成式 AI 功能。请查看我们的 AI 生成内容政策 ,并确保您的所有应用都符合这些要求,以避免应用被拒绝或在 Google Play 中下架。

  • AI 生成内容政策

    https://support.google.com/googleplay/android-developer/answer/13985936

  • 需要注意的是,使用 AI 生成内容的应用必须:

  • 禁止和防止生成 受限内容

  • 让用户能够 举报或标记冒犯性内容 。对于具有生成式 AI 功能的应用,监控并优先处理用户的反馈尤为重要,因为用户交互直接塑造了内容和体验。

  • △ 注意:图片仅供参考,请以实际为准

  • 受限内容

    https://support.google.com/googleplay/android-developer/topic/9877466

  • 举报或标记冒犯性内容

    https://support.google.com/googleplay/android-developer/answer/13985936

  • 负责任地推广您的应用 :应用推广是拓展业务的重要途径,以安全且尊重用户的方式推广应用至关重要。您最终要对您应用的营销和广告方式负责,因此请查看您的营销材料,以确保您的广告准确反映了应用的功能;并确保您的应用在所有平台上的所有广告和促销内容都符合我们的 应用推广要求 。例如,将您的应用广告用于 不当用途 可能会导致其从 Google Play 中被下架。

  • 应用推广要求

    https://support.google.com/googleplay/android-developer/answer/9899004#zippy=,examples-of-common-violations

  • 不当用途

    https://support.google.com/googleplay/android-developer/answer/9878810?sjid=7620414853943169535-NC

  • 严格测试 AI 工具和模型 :您需要对应用中的体验负责,因此,您需要了解用于创建媒体的基础 AI 工具和模型,并确保这些工具可靠,输出结果符合 Google Play 政策并尊重用户安全和隐私,这一点至关重要。请务必在各种用户场景下测试您的应用,并防范用户使用某些提示去操纵生成式 AI 功能创建有害或冒犯性内容。例如,您可以使用我们的 封闭式测试 功能分享应用的早期版本,通过用户反馈了解他们是否获得了期望的生成结果。

  • 封闭式测试

    https://play.google.com/console/about/closed-testing/

  • 这种彻底的理解和测试尤其适用于生成式 AI,因此我们建议您开始记录这些测试;因为我们将来可能要求审查此记录,以便我们更好地了解您如何保护用户。

    随着 AI 领域的发展,我们将继续更新我们的政策和开发者工具,以应对新出现的需求和复杂性。这包括在将来引入新的应用上架功能,使在 Google Play 提交生成式 AI 应用的过程更简洁和透明。我们还将分享最佳实践和资源,例如我们的 People + AI 指南 ,以支持开发者构建创新和负责任的应用,从而丰富全球用户的生活。

  • People + AI 指南

    https://pair.withgoogle.com/guidebook

  • 一如既往,我们始终是您保障用户安全的合作伙伴,并乐于接受您的反馈,以便我们可以更好地制定政策,帮助您充分利用 AI 在 Google Play 上扩展业务,为我们共同的用户提供保障并创造愉悦的体验。欢迎您持续关注 "Android 开发者" 微信公众号,及时了解更多开发技术和产品更新等资讯动态。

    推荐阅读

    如页面未加载,请刷新重试

    点击屏末 | 阅读原文 | 即刻通过 Google Play 开启成功出海之旅