过去几年里,AI 行业一直痴迷于构建更聪明的模型、更好的提示词和更多由 AI 驱动的应用。虽然这加速了创新,但也带来了新的挑战。随着组织在大规模部署 AI,最大的问题不再是模型本身。真正的挑战在于 AI 如何被编排、治理并整合到日常运营之中。
每一次不必要的 AI 请求都会消耗 GPU 资源、增加运营成本、产生额外的能源需求,并引入可避免的延迟。许多业务流程根本不需要高级推理。像解析、验证、路由、计算和结构化决策这样的任务,往往是确定性的,可以在不调用大语言模型的情况下更高效地完成。
这就引出了一个重要的工程问题:与其问 “这个任务应该由哪个 AI 模型来执行?”,也许我们应该先问 “这个任务真的需要 AI 吗?” 答案对于成本、可扩展性、安全性和可持续性都具有重要意义。
我相信企业级 AI 正在进入一个新阶段,在这个阶段,成功将更少地取决于使用最强大的模型,而更多地取决于设计正确的处理架构。确定性系统、智能路由、本地 AI 基础设施、验证层和云端 AI 各具不同的优势。未来属于那些懂得如何高效组合这些技术,而不是把所有请求都发送给 LLM 的组织。
这种架构方法还能增强数据主权、改善治理、降低基础设施成本,并创造出更易于审计和扩展的系统。在许多情况下,少用 AI--同时更聪明地使用它--反而可能比在任何地方都最大化使用 AI 产生更好的运营结果。
这种思考也影响了我们自身工程工作的方向。我们并未仅仅专注于构建由 AI 驱动的产品,而是一直在投入于一种编排架构:它能够智能地对工作负载进行分段,将确定性处理与 AI 推理分离开来,把每个任务路由到最合适的执行层,并在支持云服务的同时支持安全的本地 AI 部署。其目标不是最大化 AI 的使用,而是最大化运营效率。
下一代企业级 AI 公司,或许并不会因为构建了最聪明的模型而被铭记。它们反而可能因为构建了模型周围最聪明的基础设施而被认可。从长远来看,基础设施--而不是模型本身--可能成为真正的竞争优势。


