我们从340亿个token起步。在迁移到分离式系统架构之后,使用量降到了约15亿个token。现在,通过流程分段和模块化重构,我们在15亿的基础上又削减了大约50%。
这并非魔法。这是系统设计。大多数AI成本都被浪费掉了,因为AI被强迫为每一处微小的改动一遍又一遍地重新读取同一个系统、同一个流程、同一个逻辑和同一个工作流。
但是当系统是分离的,并且每个流程都用它自己的“字典”清晰地分段后,AI就只会读取它需要的内容。修改支付流程?只读取支付流程。修改订单核对?只读取订单流程。不再需要扫描整个系统,也没有token篝火式的浪费。
这就是中小企业可以胜出的地方。AI不应只属于拥有大型服务器和充裕预算的大公司。未来不只是更大的模型。未来是更智能的系统。
Official 跨-网络 Resource



Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
我会把这个工作流程这一段分享给需要了解技术的同事。
视觉和结构让这篇文章的概念更容易掌握。 值得再看一遍。
我对这篇内容还有问题,但文章已经提供了很好的起点。
关于这个主题的例子很实用,适合团队继续讨论。
这篇文章把分离系统 + 流程分段 = AI 效率讲得比一般的AI介绍更具体。 读完之后还有一些疑问。
同意作者对这份分析的判断,但执行起来还有难度。
如果有更多这个案例的数据和结果会更完整。
总结部分让文章里的解释的重点更加清楚。