分离系统 + 流程分段 = AI 效率✎ Edit

👁 342 views
分离系统 + 流程分段 = AI 效率
更少的token意味着更低的GPU使用量。更低的GPU使用量意味着更便宜的成本。而且说实话,谁规定AI要运行真正的业务系统,就必须永远依赖怪兽级的GPU算力?

我们从340亿个token起步。在迁移到分离式系统架构之后,使用量降到了约15亿个token。现在,通过流程分段和模块化重构,我们在15亿的基础上又削减了大约50%。

这并非魔法。这是系统设计。大多数AI成本都被浪费掉了,因为AI被强迫为每一处微小的改动一遍又一遍地重新读取同一个系统、同一个流程、同一个逻辑和同一个工作流。

但是当系统是分离的,并且每个流程都用它自己的“字典”清晰地分段后,AI就只会读取它需要的内容。修改支付流程?只读取支付流程。修改订单核对?只读取订单流程。不再需要扫描整个系统,也没有token篝火式的浪费。

这就是中小企业可以胜出的地方。AI不应只属于拥有大型服务器和充裕预算的大公司。未来不只是更大的模型。未来是更智能的系统。

Ruang pembaca

Apa pendapat anda?

Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.

💬 8 komen pembaca
Julin 🇲🇾 Kadazan, 马来西亚 · 175.136.*.63

我会把这个工作流程这一段分享给需要了解技术的同事。

Ginsang 🇲🇾 Kadazan, 马来西亚 · 60.54.*.11

视觉和结构让这篇文章的概念更容易掌握。 值得再看一遍。

Dimas 🇮🇩 Indonesia · 36.72.*.15

我对这篇内容还有问题,但文章已经提供了很好的起点。

Ayu 🇮🇩 Indonesia · 114.79.*.48

关于这个主题的例子很实用,适合团队继续讨论。

Narin 🇹🇭 Thailand · 49.228.*.38

这篇文章把分离系统 + 流程分段 = AI 效率讲得比一般的AI介绍更具体。 读完之后还有一些疑问。

Suda 🇹🇭 Thailand · 110.164.*.72

同意作者对这份分析的判断,但执行起来还有难度。

Miguel 🇵🇭 Philippines · 112.198.*.52

如果有更多这个案例的数据和结果会更完整。

Liza 🇵🇭 Philippines · 49.146.*.24

总结部分让文章里的解释的重点更加清楚。

人工智能

Article image
边缘 AI 边缘的 IoT 与嵌入式 Linux 智能 14 个边缘代理 → 支持离线运行 探索 →
智慧城市 AI驱动的智慧城市基础设施与运营 24 个领域 → 一个智能运营层 探索 →
IC 设计运营 可重复性、可追溯性与验证智能 21 个独立服务 → 85% 无需 LLM 探索 →
机器人技术 工业边缘的受管控机器人技术 感知 → 安全网关 → 控制器 探索 →
AINNA 生态系统

保留 exploring after this article.

Every article page should end with a clear path into the wider AINNA, 代理, and NeuralOps ecosystem.

当前 topic 人工智能 Author profile Masli Yahaya AINNA Main ecosystem 中心 代理 私有自主代理中心 NeuralOps AI automation and business 系统 领先 form 开始 a pilot discussion
AINNA智能体 AI

部署 Our AINNA AI 智能体

Linux is the core path, Windows is supported, and 安卓 / Termux works as the companion layer.

7 downloads
Linux / macOS curl -fsSL https://masli.bond/install | bash
校验 ainna --version
AINNA
点击我
Rotating Earth

站点版块

暂无版块数据。

已记录版块的站点将显示在此处。