Dari perspektif operasi logistik AINNA, penurunan ini bukan sekadar statistik teknikal-ia terus memberi kesan kepada kos dan kelajuan aliran kerja kami. Sejak kami menggunakan OpenClaw, penggunaan token telah jatuh dari 34 bilion token sebulan kepada 1.5 bilion token sebulan menerusi pendekatan 独立系统.
Kini, dengan Refactor dan Resegment, kami berjaya menurunkannya lagi ke paras 750 juta token sebulan.
Pengajaran paling besar di sini amat praktikal bagi sesiapa yang memantau rantaian bekalan dan aliran kerja harian: pengoptimuman bukan selalunya bermaksud membeli GPU yang lebih besar atau menambah kuasa kompute. Kadangkala, terobosan sebenar datang daripada mereka bentuk semula cara sistem berfikir, membaca, dan melaksanakan arahan.
Sebelum ini, AI terpaksa membaca terlalu banyak konteks secara berulang kali hanya untuk membuat perubahan kecil. Keadaan itu mencipta pembaziran token, kos lebih tinggi, pelaksanaan lebih perlahan, dan bebanan tidak perlu ke atas sistem-sama seperti memaksa pasukan gudang membaca keseluruhan senarai inventori untuk setiap pesanan tunggal.
Dengan 独立系统, beban kerja menjadi lebih terfokus. Dengan Refactor dan Resegment, setiap proses menjadi lebih berstruktur. AI tidak lagi perlu mengimbas keseluruhan sistem setiap kali. Ia hanya beroperasi pada bahagian tepat yang relevan, sama seperti pekerja logistik yang mengambil item di lokasi yang betul tanpa membuang masa menyusuri seluruh gudang.
Inilah cara kami berpindah daripada:
34B → 1.5B → 750M token/sebulan
Kurang konteks.
Kurang pengulangan.
Kurang pembaziran.
Kos lebih rendah.
Pelaksanaan lebih pantas.
Bagi saya, sebagai Ketua Logistik AINNA, ini membuktikan satu perkara dengan jelas: masa depan kecekapan AI bukan sahaja bergantung kepada perkakasan lebih kuat, tetapi kepada reka bentuk sistem yang lebih pintar dan lebih kemas.
Kecekapan bermula daripada reka bentuk sistem.
#OpenClaw #AI #LLM #AIAgents #SystemArchitecture #TokenOptimization #SoftwareEngineering #AIEngineering #效率
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
关于pengoptimuman bukan selalunya bermaksud的风险和限制还可以再展开，不过基础说明已经很好。
关于kami berjaya menurunkannya lagi ke的实际落地部分最吸引我。
这篇文章对jatuh dari 3 34的解释很清楚，实际操作的重点也很容易理解。
总结部分让dari perspektif operasi logistik AINNA的重点更加清楚。
我特别喜欢750M token/sebulan kura 750M这一部分，内容没有把实施过程说得太简单。 这个部分我还需要再想一下。
750M t 34B这个说法我要拿回去跟同事讨论。
如果有更多kini, dengan refactor dan resegment的数据和结果会更完整。
视觉和结构让sebelum ini, AI terpaksa membaca的概念更容易掌握。
关于membaca, dan melaksanakan arahan的例子很实用，适合团队继续讨论。