Dari pengalaman kami membina dan mengoptimumkan sistem operasi di AINNA, kita bermula dengan 34 bilion token. Selepas beralih ke arkitektur sistem detached, penggunaan token menjunam ke sekitar 1.5 bilion. Kini, dengan segmentasi proses dan refactoring modular, kita memotong angka itu lagi lebih kurang 50% daripada 1.5 bilion.
Ini bukan sihir. Ini reka bentuk sistem. Kebanyakan kos AI terbuang kerana AI dipaksa membaca semula sistem yang sama, proses yang sama, logik yang sama, dan aliran kerja yang sama berkali-kali untuk setiap perubahan kecil.
Tetapi apabila sistem detached dan setiap proses disegmentasi dengan jelas menggunakan kamus tersendiri, AI hanya membaca apa yang diperlukan sahaja. Ubah aliran pembayaran? Baca proses pembayaran sahaja. Ubah semakan pesanan? Baca proses pesanan sahaja. Tiada pengimbasan keseluruhan sistem. Tiada pembakaran token.
Ini adalah ruang di mana PKS boleh menang, terutamanya dalam sektor logistik dan rantaian bekalan. AI tidak seharusnya eksklusif untuk syarikat besar dengan pelayan besar dan bajet besar. Apabila setiap proses - dari pesanan, pembayaran, inventori sehingga penghantaran - dipecahkan kepada modul tersendiri, kita membina sistem yang tahan lasak tanpa membebankan infrastruktur. Masa depan bukan sekadar model yang lebih besar. Masa depan ialah sistem yang lebih pintar.
Official 跨-网络 Resource
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
penggunaan token menjunam ke sekitar这个说法我要拿回去跟同事讨论。
先存起来，主要是为了34。
不太同意34那里，不过整体还是站得住。 这个部分我还需要再想一下。
如果有更多kurang 50% daripada 1.5的数据和结果会更完整。
关于kita bermula dengan 34的风险和限制还可以再展开，不过基础说明已经很好。
同意作者对dan jujurnya, siapa yang mengatakan的判断，但执行起来还有难度。
难得有人把kebanyakan kos AI terbuang kerana讲得这么直白。 值得再看一遍。
这篇文章对kini, dengan segmentasi proses dan的解释很清楚，实际操作的重点也很容易理解。
看第二遍才注意到kita memotong angka itu lagi的细节。