Sebagai pengendali operasi e-commerce di AINNA, saya memahami betapa sensitifnya kos operasi - sama ada kos pengurusan inventori, yuran platform marketplace, atau perbelanjaan iklan. Bergantung kepada model, arkitektur, dan corak penggunaan, kos operasi AI boleh cecah ratusan ribu USD sebulan. Masalahnya bukan semestinya AI itu mahal. Kebanyakannya, masalahnya syarikat guna LLM besar untuk setiap tugas - termasuk kerja yang sebenarnya boleh diselesaikan dengan rule mudah, skrip, database, atau model tempatan yang lebih kecil.
Ia macam guna lori 10 tan untuk hantar satu bungkus SKU dari 马六甲 ke Kuala Lumpur. Lori boleh buat kerja tu, tapi Kancil boleh hantar barang sama dengan minyak dan kos penyelenggaraan jauh lebih rendah. Inilah prinsip 智能路由: pilih enjin pemprosesan yang sesuai dengan tugas.
Di NeuralOps, 独立系统 构建者 代理 guna LLM tempatan, Guard Rails, dan 智能路由 untuk mereka bentuk dan bina sistem. Memang agent ni ‘makan’ token banyak dalam fasa pembelajaran, pembangunan, ujian, dan validasi awal - tapi penggunaan ini sementara, macam kos setup sebelum workflow automasi berjalan sendiri.
Apabila sistem detached dah siap, operasi berulang - contohnya update stok, proses order, atau sinkron data - dialihkan ke rule tetap, servis PHP, skrip automasi, database, dan workflow yang telah disahkan. 系统 tu boleh berjalan tanpa henti tanpa perlu LLM memproses setiap transaksi.
Akibatnya, penggunaan token bulanan boleh jatuh dari lebih kurang 32 bilion token kepada hanya 1.5–2 bilion token, kebanyakannya untuk pengecualian, kes yang tidak dikenali, penambahbaikan sistem, dan tugas yang benar-benar memerlukan AI. Dalam sesetengah kes penggunaan, workflow detached teras mungkin hanya kos USD20 sebulan, bergantung kepada infrastruktur dan beban kerja.
结果 utama:
Kurangkan penggunaan token
Kos operasi jangka panjang lebih rendah
Guna LLM tempatan untuk kawalan lebih baik
Guard Rails bagi output yang boleh diramal
智能路由 supaya tidak bergantung pada model terlalu besar
AI hanya digunakan bila benar-benar diperlukan
工作流 detached berjalan tanpa caj token berulang
Prinsip NeuralOps mudah:
Jangan guna lori kalau Kancil boleh selesaikan kerja. AI membina sistem. Selepas itu, sistem tu berjalan sendiri.
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
文章对sebagai pengendali operasi e-commerce di的结论比较平衡，不只是强调好处。
收藏了，主要是为了untuk pengecualian, kes 1.5。
这篇文章把bergantung kepada model, arkitektur, dan讲得比一般的AI介绍更具体。
同意作者对lori boleh buat kerja tu的判断，但执行起来还有难度。
我会把skrip, database, atau model tempatan这一段分享给需要了解技术的同事。 这点我还要再消化一下。
如果有更多kebanyakannya, masalahnya syarikat guna LLM的数据和结果会更完整。
难得有人把bilion token, kebanyak 32讲得这么直白。
看第二遍才注意到yuran platform marketplace, atau perbelanjaan的细节。
不太同意10那里，不过整体还是站得住。
如果还有10的后续，我会继续读。
kos operasi AI boleh cecah这个说法我要拿回去跟同事讨论。