✏️ Edit

新一轮 AI 军备竞赛:上下文、代币与成本

👁 228 views
新一轮 AI 军备竞赛:上下文、代币与成本

一些 LLM 提供商似乎在提高每个会话的最大 token 限制。

昨天,我花了好几个小时来改造并精简我独立系统(独立系统)的解析引擎。通常,这样一个复杂的任务会在几分钟内就用完会话限制。但即便工作了几个小时后,额度仍然非常充足。

这预示着更大的趋势。LLM 公司不再仅仅通过模型智能来竞争。它们现在通过更长的上下文窗口、更高的使用限制、更低的成本、更快的响应和更好的用户访问体验来竞争。

这让我想起了网络卖家之间的价格战。

有些卖家即使利润已经消失,仍不断降价。其意图并不总是为了立即获利。有时,策略是为了吸引更多客户、抢占市场份额,并削弱那些没有强大客户基础就无法生存的竞争对手。

LLM 提供商现在可能正进入类似的阶段。它们提供更多 token、更长的会话和更好的价值,以便在竞争对手建立起更强的客户忠诚度之前,把用户锁定在自己的平台上。

对用户而言,短期内这是好事。我们可以以更低的成本构建更多、测试更多、完成更大的项目。以前需要多个会话、反复提示和不断重建上下文的任务,现在可以在一个更长的工作流中完成。

但价格战很少会永远持续。一旦较弱的竞争对手消失,用户变得依赖少数几家提供商,定价、限制和访问条件可能会再次变化。

对企业的教训很简单:利用竞争带来的好处,但不要完全依赖单一提供商。尽可能使用智能路由(智能路由)、独立系统(分离式系统)、本地处理,以及多家 LLM 提供商。

真正的赢家不会是使用最强大 LLM 的公司,而是能够在市场变化时切换提供商、掌控自身数据并持续运营的公司。

#Artificial智能 #LLM #AI竞争 #独立式系统 #Smart路由 #Distillation #自动化 #商业战略 #NeuralOps #AINNA

Artificial 智能

Article image
生物研究 微生物学与癌症疾病研究情报 6 个输入 → 可追溯的研究优先级 探索 →
边缘 AI 物联网与嵌入式Linux 边缘智能 14 个边缘代理 → 支持离线运行 探索 →
智慧城市 AI驱动的智慧城市基础设施与运营 24 个领域 → 一个智能运营层 探索 →
IC设计运营 可重复性、可追溯性与验证智能 21 个独立服务 → 85% 无需 LLM 探索 →
AINNA
点击我

站点版块

暂无版块数据。

已记录版块的站点将显示在此处。