一些 LLM 提供商似乎在提高每个会话的最大 token 限制。
昨天,我花了好几个小时来改造并精简我独立系统(独立系统)的解析引擎。通常,这样一个复杂的任务会在几分钟内就用完会话限制。但即便工作了几个小时后,额度仍然非常充足。
这预示着更大的趋势。LLM 公司不再仅仅通过模型智能来竞争。它们现在通过更长的上下文窗口、更高的使用限制、更低的成本、更快的响应和更好的用户访问体验来竞争。
这让我想起了网络卖家之间的价格战。
有些卖家即使利润已经消失,仍不断降价。其意图并不总是为了立即获利。有时,策略是为了吸引更多客户、抢占市场份额,并削弱那些没有强大客户基础就无法生存的竞争对手。
LLM 提供商现在可能正进入类似的阶段。它们提供更多 token、更长的会话和更好的价值,以便在竞争对手建立起更强的客户忠诚度之前,把用户锁定在自己的平台上。
对用户而言,短期内这是好事。我们可以以更低的成本构建更多、测试更多、完成更大的项目。以前需要多个会话、反复提示和不断重建上下文的任务,现在可以在一个更长的工作流中完成。
但价格战很少会永远持续。一旦较弱的竞争对手消失,用户变得依赖少数几家提供商,定价、限制和访问条件可能会再次变化。
对企业的教训很简单:利用竞争带来的好处,但不要完全依赖单一提供商。尽可能使用智能路由(智能路由)、独立系统(分离式系统)、本地处理,以及多家 LLM 提供商。
真正的赢家不会是使用最强大 LLM 的公司,而是能够在市场变化时切换提供商、掌控自身数据并持续运营的公司。
#Artificial智能 #LLM #AI竞争 #独立式系统 #Smart路由 #Distillation #自动化 #商业战略 #NeuralOps #AINNA


