有关个性化体验创建服务的集成和负责任使用的指导

Microsoft 致力于通过 Azure AI 个性化体验创建服务来帮助客户负责任地开发和部署解决方案。 我们讲原则的方法在考虑以下 AI 系统性质的基础上坚守个人的能动性和尊严：

• 公平性、可靠性和安全性。
• 隐私和安全。
• 包容性。
• 透明。
• 人类责任。

这些考虑因素体现了我们在开发负责任 AI 方面所做的承诺。

集成和负责任使用原则的一般准则

准备好集成并以负责任的态度使用 AI 赋能的产品或功能时，以下活动可帮助你为成功做好准备：

• 了解其作用。 全面评估个性化体验创建服务的潜力，以了解其功能和局限性。 使用真实条件和数据对其进行充分测试，了解它在特定方案和上下文中的表现。

• 尊重个人的隐私权。 仅出于合法且正当的目的收集个人的数据和信息。 仅将数据和信息用于客户同意的目的。

• 经过法律审查。 获取适当的法律建议来审查个性化体验创建服务以及了解如何在解决方案中使用它，特别是在敏感型或高风险应用程序中使用。 了解可能需要在哪种限制范围内工作，以及你在解决将来可能出现的任何问题方面承担的责任。

• 建立“人在回路”系统。 包含人工监视作为要探索的一致模式领域。 确保持续对 AI 赋能的产品或功能进行人工监督。 保持人类在决策中的作用。 确保可以在解决方案中进行实时人工干预，以防止发生损害，并应对 AI 系统不按预期工作的情况。

• 与受影响的利益干系人建立信任。 向受影响的利益干系人传达预期好处和潜在风险。 帮助人们了解为何需要数据，以及使用数据可为他们带来怎样的好处。 以易于理解的方式描述数据处理。

• 建立客户反馈回路。 提供一个反馈渠道，使用户和个人能够在部署服务后报告服务的问题。 部署 AI 赋能的产品或功能后，需要持续进行监视和改进。 准备好实施任何反馈和改进建议。 建立渠道以收集受影响利益干系人的问题和忧虑。 可能直接或间接受系统影响的人员包括员工、访客和公众。

• 反馈：在开发和评估期间向社区的不同样本人群（例如，历史上被边缘化的群体、残障人士和服务工作者）寻求反馈。 有关详细信息，请参阅“社区评委”。

• 用户研究：应将任何同意或透露建议纳入用户研究。 使用社区的代表性样本评估首次和持续使用体验，以验证设计选择是否导致实际性的透露。 在 10-20 名社区成员（受影响的利益干系人）的配合下开展用户调查，以评估他们对信息的理解，并确定是否符合他们的预期。

• 透明度和可解释性：考虑启用和使用个性化体验创建服务的推理可解释性功能，以便更好地了解个性化体验创建服务在每个排名调用中的决策选择中扮演重要角色。 此功能使你能够让用户对数据在生成建议的最佳操作方面发挥了作用的透明度。 例如，可为用户提供一个标记为“为何提供这些建议？”的按钮，用于显示哪些主要功能在生成个性化体验创建服务结果方面发挥了作用。 此信息还可用于更好地了解有关你的用户、上下文和操作的哪些数据属性有利于个性化体验创建服务选择的最佳操作，哪些对其不利，哪些可能影响很小或没有影响。 此功能还可以提供有关你的用户细分的见解，并帮助你识别和解决潜在的偏见。

• 对立性使用：考虑建立一个流程来检测和应对恶意操纵。 某些恶意行动者会利用机器学习和 AI 系统从其环境中进行学习这一能力。 通过协调式的攻击，他们可以人为地伪造行为模式，将数据和 AI 模型转变为依照他们的意图工作。 如果使用个性化体验创建服务可能会影响重要选择，请确保采取适当的措施来检测和缓解此类攻击。

• 选择退出：考虑为用户提供控件，用于选择不接收个性化建议。 对于这些用户，不会从应用程序中调用个性化体验创建服务排名 API。 不过，应用程序可以使用替代机制来决定要执行的操作。 例如，通过选择退出个性化建议并选择默认操作或基线操作，用户将体验到在没有个性化体验创建服务建议的情况下执行的操作。 或者，应用程序可以根据聚合或基于人口的度量值（例如，现在趋势，最热门的前 10 项等）使用建议。

你的责任

有关负责任的实现的所有准则都建立在特定的基础之上，即，使用个性化体验创建服务的开发人员和企业有责任确保在社会中使用这些算法的效果。 如果你开发供自己的组织部署的应用程序，则应认识到自己在确保其正常运行和对人们的良好影响方面所担负的角色和责任。 如果你要设计供第三方部署的应用程序，则应与他们达成共识，明确谁应该对应用程序的行为担负最终责任。 确保将这种共识记录在案。

问题和反馈

Microsoft 会不断升级工具和更新文档，以帮助你履行这些责任。 如果你相信额外的工具、产品功能和文档有助于你遵循这些有关如何使用个性化体验创建服务的准则，则请接受我们团队的邀请，向 Microsoft 提供反馈。

推荐阅读内容

• 请在 2018 年 1 月发布的 The Future Computed（未来计算）一书中，查看 Microsoft 的有关如何对 AI 进行负责任开发的六项原则。

后续步骤

了解个性化体验创建服务 API 如何接收特征：特征：操作和上下文