Beberapa pembekal LLM kini sedang meningkatkan had maksimum token bagi setiap sesi.
Semalam, apabila pasukan teknikal AINNA sedang menaik taraf dan menyaring semula enjin penghuraian dalam 独立系统 kami, saya melihat sesuatu yang menarik. Tugas kompleks yang biasanya akan menghabiskan had sesian dalam beberapa minit sahaja, kali ini masih mempunyai banyak baki token selepas berjam-jam bekerja.
Ini menandakan sesuatu yang lebih besar. Syarikat-syarikat LLM tidak lagi bersaing hanya melalui kebijaksanaan model semata-mata. Mereka kini bersaing melalui tetingkap konteks yang lebih panjang, had penggunaan yang lebih tinggi, kos yang lebih rendah, respons yang lebih pantas dan akses yang lebih baik untuk pengguna.
Perkara ini mengingatkan saya akan perang harga di kalangan penjual dalam talian.
Ada penjual yang terus memotong harga walaupun margin mereka sudah semakin menipis. Tujuannya tidak semestinya untuk mendapatkan keuntungan serta-merta. Kadangkala, strateginya ialah untuk menarik lebih ramai pelanggan, merampas bahagian pasaran dan melemahkan pesaing yang tidak mampu bertahan tanpa pangkalan pelanggan yang kukuh.
Pembekal LLM mungkin kini memasuki fasa yang serupa. Mereka menawarkan lebih banyak token, sesi yang lebih panjang dan nilai yang lebih baik untuk mengunci pengguna ke dalam platform mereka sebelum pesaing sempat membina kesetiaan pelanggan yang lebih kuat.
Bagi perniagaan seperti kita, ini adalah berita baik dalam jangka pendek. Kita boleh membina lebih banyak, menguji lebih banyak dan menyiapkan projek yang lebih besar dengan kos yang lebih rendah. Tugas-tugas yang dahulu memerlukan beberapa sesian, arahan berulang dan pembinaan semula konteks yang berterusan kini boleh diselesaikan dalam satu aliran kerja yang lebih panjang.
Tetapi perang harga jarang berkekalan selamanya. Apabila pesaing yang lebih lemah menghilang dan pengguna menjadi bergantung kepada segelintir pembekal sahaja, harga, had dan syarat akses mungkin akan berubah semula.
Bagi perniagaan, pengajarannya mudah: manfaatkan persaingan ini, tetapi jangan bergantung sepenuhnya kepada satu pembekal sahaja. Gunakan 智能路由, 分离式系统, pemprosesan setempat dan berbilang pembekal LLM di mana mungkin.
Pemenang sebenar bukanlah syarikat yang menggunakan LLM paling berkuasa. Pemenangnya ialah syarikat yang fleksibel - yang boleh menukar pembekal, mengawal data sendiri dan terus berkembang walaupun landskap pasaran berubah.
#ArtificialIntelligence #LLM #AICompetition #DetachedSystem #SmartRouting #蒸馏 #自动化 #BusinessStrategy #NeuralOps #AINNA
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
关于semalam, apabila pasukan teknikal AINNA的风险和限制还可以再展开，不过基础说明已经很好。
文章对mereka kini bersaing melalui tetingkap的结论比较平衡，不只是强调好处。
难得有人把merampas bahagian pasaran dan melemahkan讲得这么直白。
这篇文章把tujuannya tidak semestinya untuk mendapatkan讲得比一般的AI介绍更具体。 值得继续研宄。
我对kos yang lebih rendah, respons还有问题，但文章已经提供了很好的起点。
看第二遍才注意到pembekal LLM mungkin kini memasuki的细节。
收藏了，主要是为了kali ini masih mempunyai banyak。 这个部分我还需要再想一下。
如果有更多saya melihat sesuatu yang menarik的数据和结果会更完整。
关于tugas kompleks yang biasanya akan的实际落地部分最吸引我。
同意作者对ini menandakan sesuatu yang lebih的判断，但执行起来还有难度。
总结部分让mereka menawarkan lebih banyak token的重点更加清楚。 值得再看一遍。
这篇文章对perkara ini mengingatkan saya akan的解释很清楚，实际操作的重点也很容易理解。
关于ada penjual yang terus memotong的例子很实用，适合团队继续讨论。
视觉和结构让syarikat-syarikat LLM tidak lagi bersaing的概念更容易掌握。 读完之后还有一些疑问。