Salah satu usaha saya dalam menampung kos distilasi LLM sendiri ialah dengan membina lebih banyak 系统 Terpisah.
Prinsipnya mudah:
Jangan gunakan LLM untuk kerja yang sudah menjadi boleh diramal.
Setiap minggu, saya menyasarkan untuk membina kira-kira dua belas 系统 Terpisah besar, disokong oleh penyelidikan yang diperlukan untuk memahami aliran kerja, mengenal pasti corak, mentakrifkan peraturan, dan mengesahkan sistem.
Bagi masalah yang lebih kompleks, saya mungkin menggunakan ChatGPT atau Claude dahulu sebagai lapisan penyelidikan dan penaakulan aras tinggi.
Aliran kerjanya kemudian menjadi:
Masalah Kompleks → Penyelidikan → Penaakulan → Distilasi → Logik Deterministik → Perutean Pintar → DeepSeek V4 Flash / LLM Sendiri Kita → Pelaksanaan
Bahagian penting ialah apa yang berlaku selepas logik deterministik.
Jika beban kerja boleh diselesaikan melalui peraturan, penghurai, pengesahan, atau logik berstruktur, 系统 Terpisah mengendalikannya secara langsung.
Jika lebih banyak penaakulan diperlukan, beban kerja dihantar ke DeepSeek V4 Flash sebagai model luar yang cekap kos.
Bagi beban kerja yang khusus, strategik, sensitif, atau berkaitan kedaulatan, sistem sebaliknya boleh menghantar tugas ke model LLM sendiri kita.
Jadi ini bukan tentang menghapuskan LLM.
Ia tentang menggunakannya secara selektif.
Deterministik dahulu.
LLM cekap kos apabila diperlukan.
LLM sendiri kita apabila kecerdasan khusus, kawalan, atau kedaulatan menjadi faktor penting.
Arsitektur ini juga menyokong ekonomi pembinaan model kita sendiri.
Lebih banyak beban kerja yang kita pisahkan, lebih rendah kos token dan inferens berulang kita.
Lebih rendah kos tersebut, lebih banyak sumber yang boleh kita tumpukan kepada distilasi model, penilaian, infrastruktur, dan pembangunan ekosistem LLM sendiri kita.
Itu ialah salah satu idea teras di sebalik AINNA NeuralOps.
#AINNA #NeuralOps #DetachedSystems #LLM #AIDistillation #SovereignAI #AIInfrastructure #DeepSeek #ChatGPT #Claude #EnterpriseAI #自动化
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
关于beban kerja dihantar ke deepseek的实际落地部分最吸引我。
如果可以继续说明系统 terpisah mengendalikannya secara langsung的真实案例，我会想继续阅读。
文章对prinsipnya mudah: jangan gunakan LLM的结论比较平衡，不只是强调好处。
总结部分让saya mungkin menggunakan chatgpt atau的重点更加清楚。 值得继续研宄。
看第二遍才注意到mengenal pasti corak, mentakrifkan peraturan的细节。
我对setiap minggu, saya menyasarkan untuk还有问题，但文章已经提供了很好的起点。
我会把aliran kerjanya kemudian menjadi: masalah这一段分享给需要了解技术的同事。 读完之后还有一些疑问。
我特别喜欢bagi beban kerja yang khusus这一部分，内容没有把实施过程说得太简单。
难得有人把strategik, sensitif, atau berkaitan kedaulatan讲得这么直白。
这篇文章把jika beban kerja boleh diselesaikan讲得比一般的AI介绍更具体。
文章把jika lebih banyak penaakulan diperlukan和日常运营联系起来，这一点很有帮助。 值得再看一遍。
这篇文章适合团队用来开始讨论penghurai, pengesahan, atau logik berstruktur。