自从使用打开Claw以来,通过分离式系统方案,我们的token使用量从每月340亿个token降至每月15亿个token。
现在,借助Refactor和Resegment,我们进一步将其降至约每月7.5亿个token。
这里最大的教训很简单:优化并不总是意味着购买更大的GPU或增加更多计算能力。有时,真正的突破来自于重新设计系统思考、读取和执行的方式。
在此之前,AI不得不反复读取大量上下文,仅仅为了做出微小的改动。这造成了token浪费、成本上升、执行缓慢,以及系统上的不必要负担。
有了分离式系统,工作负载变得更加聚焦。有了Refactor和Resegment,每个流程变得更加结构化。AI不再需要每次都扫描整个系统。它只处理真正重要的那一部分。
这就是我们实现如下转变的方式:
34B → 1.5B → 750M token/月
更少的上下文。
更少的重复。
更少的浪费。
更低的成本。
更快的执行。
对我来说,这清楚地证明了一件事:AI效率的未来不仅取决于更强大的硬件,还取决于更智能的架构。
效率始于系统设计。
#打开Claw #AI #LLM #AI代理s #系统架构 #Token优化 #Software工程 #AI工程 #效率


