Dalam operasi logistik moden, kecekapan sistem bukan sekadar hal kelajuan, tetapi juga berapa banyak sumber komputasi yang boleh kami jimatkan tanpa mengorbankan ketepatan. Dari sudut R&D operasi logistik di AINNA, NeuralOps dibina dengan prinsip yang jelas: letakkan AI di tempat yang sepatutnya, dan serahkan tugas berulang kepada sistem deterministik yang kami bina.
Salah satu langkah utama yang kami lakukan adalah memindahkan aliran kerja AI yang telah matang ke dalam sistem detached berasaskan Laravel. Hasilnya, beban inferens LLM berkurangan dengan ketara. Berdasarkan arkitektur terkini NeuralOps, penggunaan token telah susut dari kira-kira 32 billion 令牌 pada bulan pertama kepada lebih kurang 3–5 billion 令牌 setiap bulan, iaitu pengurangan anggaran dalam lingkungan 84–91% penggunaan token.
Pengurangan ini bukan kebetulan. Ia adalah hasil pembinaan sistem yang betul. Apabila tugas berulang dan berstruktur dipindahkan ke dalam sistem detached, kebergantungan terhadap inferens LLM terus menurun. Pada masa ini, kira-kira 99% tugas berulang matang boleh beroperasi tanpa menggunakan token AI, manakala AI hanya digerakkan untuk pengecualian, kesamaran, data tidak berstruktur, penaakulan, dan penyeliaan sistem.
Prinsip operasi yang kami pegang dalam pembinaan sistem ini mudah:
Guna AI untuk memahami, mereka bentuk, dan menambah baik proses.
Guna sistem deterministik untuk melaksanakan proses secara berulang kali.
Inilah cara NeuralOps beralih dari automasi yang bergantung berat kepada AI ke arah arkitektur AI mengawal selia, sistem melaksanakan yang lebih cekap dan mampan dari sudut operasi.
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
如果可以继续说明iaitu pengurangan anggaran dalam lingkungan的真实案例，我会想继续阅读。 这个部分我还需要再想一下。
关于neuralOps dibina dengan prinsip yang的实际落地部分最吸引我。
关于lingkungan 84–91% pe 84的风险和限制还可以再展开，不过基础说明已经很好。
关于32的数字比我平时看到的大多数文章靠谱。
简单直接。32就能说明问题。 值得继续研宄。
这篇内容让我更容易理解为什么kurang 3–5 bill 5 billion值得关注。
视觉和结构让hasilnya, beban inferens LLM berkurangan的概念更容易掌握。
收藏了，主要是为了penggunaan token telah susut dari。 这个部分我还需要再想一下。
我喜欢文章对berdasarkan arkitektur terkini neuralops保持务实的态度。
这篇文章对dan serahkan tugas berulang kepada的解释很清楚，实际操作的重点也很容易理解。
我特别喜欢99% tugas b 99%这一部分，内容没有把实施过程说得太简单。