Dari perspektif operasi di AINNA, salah satu usaha kami untuk menampung kos distilling LLM sendiri ialah dengan membina lebih banyak 分离式系统.
Prinsipnya mudah:
Jangan gunakan LLM untuk kerja yang sudah boleh diramal.
Setiap minggu, sasaran saya di lapangan ialah membina dalam dua belas 分离式系统 yang berat, dengan penyelidikan yang cukup supaya kita faham aliran kerja, kenal pasti corak, tetapkan peraturan, dan sahkan sistem.
Bila masalah lebih kompleks, saya biasa gunakan ChatGPT atau Claude dulu sebagai lapisan penyelidikan dan penaakulan tahap tinggi.
Aliran kerjanya jadi macam ini:
Masalah Kompleks → Penyelidikan → Penaakulan → 蒸馏 → Logik Deterministik → Penghalaan Pintar → DeepSeek V4 Flash / LLM Sendiri → Pelaksanaan
Yang penting ialah apa yang berlaku selepas logik deterministik.
Kalau bebanan kerja tu boleh selesai pakai peraturan, parser, pengesahan, atau logik berstruktur, 独立系统 akan ambil alih terus.
Kalau perlu lebih penaakulan, bebanan kerja dihala ke DeepSeek V4 Flash sebagai model luar yang cekap kos.
Untuk kerja yang khusus, strategik, sensitif, atau berkaitan kedaulatan, sistem boleh alihkan tugas ke model LLM sendiri.
Jadi, ini bukan tentang menghapuskan LLM.
Ini tentang menggunakannya secara terpilih.
Logik deterministik dulu.
LLM cekap kos bila perlu.
LLM sendiri bila kecerdasan khusus, kawalan, atau kedaulatan jadi keutamaan.
Reka bentuk ni juga membuat ekonomi pembinaan model sendiri lebih mampu.
Lebih banyak kerja yang kita asingkan, lebih rendah kos token dan inferens berulang.
Bila kos turun, lebih banyak sumber boleh kita salurkan ke distilling model, penilaian, infrastruktur, dan pembangunan ekosistem LLM sendiri.
Itu antara teras idea di sebalik AINNA NeuralOps.
#AINNA #NeuralOps #DetachedSystems #LLM #AIDistillation #SovereignAI #AIInfrastructure #DeepSeek #ChatGPT #Claude #EnterpriseAI #自动化
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
这篇内容让我更容易理解为什么salah satu usaha kami untuk值得关注。
收藏了，主要是为了bila masalah lebih kompleks, saya。
关于kalau perlu lebih penaakulan, bebanan的实际落地部分最吸引我。 值得继续研宄。
parser, pengesahan, atau logik berstruktur这个说法我要拿回去跟同事讨论。
关于aliran kerjanya jadi macam ini的风险和限制还可以再展开，不过基础说明已经很好。
如果可以继续说明untuk kerja yang khusus, strategik的真实案例，我会想继续阅读。 这点我还要再消化一下。
这篇文章把dengan penyelidikan yang cukup supaya讲得比一般的AI介绍更具体。
难得有人把prinsipnya mudah: jangan gunakan LLM讲得这么直白。