但在实践中，治理只有在被落实到系统架构中时才会真正发挥作用。
一项法规可能要求可靠性、可审计性、监控和独立验证。更重要的问题是：在 AI 输出成为一项业务决策之前，这些要求如何得以实现。
根据我们自身的开发经验，我们认为有三个架构组件是必不可少的：
智能路由
并非所有任务都应发送到同一个 AI 模型。
系统应首先根据任务类型、复杂度、数据格式、风险等级和所需精度对请求进行分类。然后可以将请求路由到最合适的 AI 模型、确定性引擎、基于规则的工作流或专门的解析器。
这意味着风险在流程开始时就得到管理，而不仅仅是在答案已经生成之后。
多个专门的解析器
单一的解析器会形成单一故障点。
不同的解析器可以通过各自独立的方法提取和解释相同的输入。在系统接受结果之前，可以对它们的输出进行比较、核对和验证。
当输出不一致时，系统可以停止、重新路由或标记该交易，而不是默默允许一个不可靠的结果继续下去。
分离式系统
AI 模型不应负责批准自己的输出。
验证、核对、护栏、业务规则、置信度评估和审计日志应在模型之外，通过独立的系统组件来运行。
原则很简单：
AI 生成内容。系统进行验证。
采用这种架构后，幻觉风险不仅限于在最后阶段进行管理。它贯穿于整个工作流得到控制，从路由、解析到验证和接受。
这并不意味着幻觉可以被完全消除。它意味着不可靠的输出可以被检测、遏制，并阻止其到达最终决策层。
最重要的是，这种架构还能支持更好的 ESG 表现。
智能路由可防止每个请求都发送到最大、最昂贵的模型。确定性流程、专门的解析器和小型模型可以处理较为简单的任务，而高级模型只在真正需要时才被使用。
这减少了不必要的 token 使用量、GPU 处理、电力消耗、冷却需求以及基础设施成本。
因此，值得信赖的 AI 不应仅仅依赖于强大的模型。
它应依赖于一个可衡量、可独立验证、资源高效，并且从一开始就旨在控制风险的架构。
治理必须存在于政策之中。
但预防、验证和 ESG 效率必须存在于系统之中。
#AI治理 #ResponsibleAI #AI基础设施 #Smart路由 #独立式系统 #AI验证 #ESG #GreenAI #马来西亚AI #数字化Transformation
Official 跨-网络 Resource
