Beberapa pembekal LLM kini memanjangkan tetingkap konteks dan meningkatkan kapasiti token bagi setiap sesi.
Semalam, saya menghabiskan beberapa jam untuk membina semula dan menyuling enjin parsing dalam 独立系统. Biasanya, tugas kompleks begini akan menghabiskan baki token dalam beberapa minit sahaja. Namun, kali ini, selepas berjam-jam kerja pembangunan, baki token masih banyak.
Ini menandakan satu perubahan besar dalam landskap LLM. Pembekal tidak lagi bersaing melalui kecerdasan model semata-mata. Kini persaingan merangkumi tetingkap konteks yang lebih panjang, had penggunaan yang lebih tinggi, kos yang lebih rendah, latensi yang lebih rendah dan akses yang lebih baik untuk pengguna.
Situasi ini mengingatkan saya tentang peperangan harga dalam kalangan penjual atas talian.
Ada penjual yang terus memotong harga walaupun margin mereka sudah hampir hilang. Matlamatnya bukan semata-mata untuk mendapatkan keuntungan segera. Kadangkala, strategi itu bertujuan untuk menarik lebih ramai pelanggan, merampas bahagian pasaran dan melemahkan pesaing yang tidak mampu bertahan tanpa pangkalan pelanggan yang kukuh.
Pembekal LLP mungkin kini memasuki fasa yang sama. Mereka menawarkan lebih banyak token, sesi yang lebih lama dan nilai yang lebih baik untuk mengunci pengguna ke dalam platform masing-masing sebelum pesaing sempat membina kesetiaan pelanggan yang lebih kuat.
Bagi pasukan R&D dan operasi seperti kami yang membina sistem logistik, ini memberi manfaat jangka pendek. Kami boleh membina prototaip, menjalankan ujian dan menyiapkan projek yang lebih besar pada kos yang lebih rendah. Tugas yang dahulu memerlukan beberapa sesi berasingan, prompt yang berulang dan pembinaan semula konteks secara berterusan kini dapat diselesaikan dalam satu aliran kerja yang lebih panjang.
Tetapi peperangan harga jarang berlangsung selamanya. Apabila pesaing yang lemah tersingkir dan pengguna menjadi bergantung kepada beberapa pembekal sahaja, harga, had dan syarat akses mungkin berubah semula.
Bagi perniagaan, pengajarannya mudah: manfaatkan persaingan yang wujud, tetapi jangan bergantung sepenuhnya kepada satu pembekal. Gunakan 智能路由, 独立系统, pemprosesan setempat dan pelbagai pembekal LLM di mana sahaja yang mungkin.
Pemenang sebenarnya bukanlah organisasi yang menggunakan LLM paling berkuasa. Ia adalah organisasi yang boleh menukar pembekal, mengawal data sendiri dan terus beroperasi apabila pasaran berubah.
#ArtificialIntelligence #LLM #AICompetition #DetachedSystem #SmartRouting #蒸馏 #自动化 #BusinessStrategy #NeuralOps #AINNA
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
关于pembekal tidak lagi bersaing melalui的风险和限制还可以再展开，不过基础说明已经很好。
关于这段说明的数字比我平时看到的大多数文章靠谱。
第一次看到有人把这部分讲得这么坦白。
我会把kadangkala, strategi itu bertujuan untuk这一段分享给需要了解技术的同事。
这篇文章适合团队用来开始讨论mereka menawarkan lebih banyak token。
我对situasi ini mengingatkan saya tentang还有问题，但文章已经提供了很好的起点。 这点我还要再消化一下。
我特别喜欢namun, kali ini, selepas berjam-jam这一部分，内容没有把实施过程说得太简单。
文章把ini menandakan satu perubahan besar和日常运营联系起来，这一点很有帮助。
同意作者对baki token masih banyak的判断，但执行起来还有难度。