← 返回个人资料

编辑文章

Upload cover image (JPG, PNG, WebP, max 5MB) automatically compressed to WebP

Current image

Di AINNA, pasukan R&D dan operasi logistik kami menganggap setiap sistem sebagai rantaian aliran kerja yang mesti dioptimakan secara berterusan. Sejak kami menerapkan OpenClaw, penggunaan token telah jatuh dari 34 bilion token sebulan kepada 1.5 bilion token sebulan melalui pendekatan 独立系统.

Kini, dengan Refactor dan Resegment, kami berjaya menurunkannya lagi kepada kira-kira 750 juta token sebulan.

Pengajaran utama di sini jelas: pengoptimuman bukan semestinya bermaksud membeli GPU yang lebih besar atau menambah kuasa komputasi. Kadangkala, terobosan sebenar datang daripada mereka bentuk semula cara sistem memahami, membaca, dan melaksanakan tugas.

Sebelum ini, AI terpaksa membaca konteks yang terlalu banyak secara berulang kali hanya untuk membuat perubahan kecil. Itu menghasilkan pembaziran token, kos lebih tinggi, pelaksanaan lebih perlahan, dan bebanan tidak perlu pada sistem.

Dengan 独立系统, beban kerja menjadi lebih terfokus. Dengan Refactor dan Resegment, setiap proses menjadi lebih tersusun. AI tidak lagi perlu mengimbas keseluruhan sistem setiap kali. Ia hanya beroperasi pada bahagian tepat yang relevan — konsep yang sama kami terapkan dalam reka bentuk sistem logistik: hantar sumber hanya ke nod atau zon yang berkaitan, bukan ke seluruh rangkaian.

Itulah cara kami bergerak dari:

34B → 1.5B → 750M token/sebulan

Kurang konteks.
Kurang pengulangan.
Kurang pembaziran.
Kos lebih rendah.
Pelaksanaan lebih pantas.

Bagi saya, ini membuktikan satu perkara dengan jelas: masa depan kecekapan AI bukan sekadar bergantung pada perkakasan yang lebih kuat. Ia bergantung pada seni bina sistem yang lebih pintar.

Kecekapan bermula dengan reka bentuk sistem.

#OpenClaw #AI #LLM #AIAgents #SystemArchitecture #TokenOptimization #SoftwareEngineering #AIEngineering #效率

Cancel

输入密码

管理文章需要密码

AINNA
点击我
Rotating Earth

站点版块

暂无版块数据。

已记录版块的站点将显示在此处。