微软 概要介绍 了一套人工智能治理架构，将治理重点从文档里的政策转向运行时执行、持续评估、可观测性和审计证据，以适应组织在生产环境中部署人工智能应用程序和智能代理的需求。该框架涵盖九个治理领域和四项功能：政策、控制、可视化和证明，目的是保证在人工智能系统运行过程中可以验证治理要求是否得到执行且可被观测。 微软 AI 治理架构（图片来源： 微软博客 ） 该架构将治理视为一个持续不断的运营循环。政策确立要求和风险分类，控制措施将其转化为访问和运行时规则，可观测性捕捉系统行为，而评估则检验质量和安全性。随后，审计流程将运营遥测数据转化为合规性和事件调查的证据。 在随该架构发布的一篇 LinkedIn 博文中，微软云解决方案架构师 Manasa T. Ramalinga 阐述 了这一设计动机。她补充道，将 AI 工作负载投入生产环境的组织正在重构其基础架构，目的是构建更安全的系统，而不是将治理视为事后考虑的事项。 组织无法扩展自己无法控制的事物。 微软确定了九个治理领域：政策、数据治理、模型治理、可观测性、评估、安全、身份与访问、审计与合规，以及智能体治理。运行时控制涵盖用户、智能体、模型、工