Dari pengalaman saya mengurus operasi harian bersama pasukan di AINNA, AI sepatutnya berfungsi macam triaj di wad kecemasan hospital. Anda tidak akan panggil pakar bedah jantung hanya untuk tampal koyak kecil. Prinsip yang sama perlu digunapakai dalam AI: bukan semua kerja memerlukan model paling besar, beban GPU paling tinggi, atau lapisan komput paling mahal.
Sebab itu penting dari sudut ESG. 国际 能源 Agency anggarkan penggunaan elektrik pusat data boleh lebih berganda kepada kira-kira 945 TWh menjelang 2030, didorong terutamanya oleh permintaan AI. Pusat data juga perlukan air untuk penyejukan dan kecekapan operasi, sebab itu syarikat teknologi besar kini laporkan penggunaan air, pengambilan air tawar, dan penggantian air sebagai sebahagian komitmen kelestarian mereka. Bagi perniagaan di 马来西亚, ini bukan setakat angka global - ia boleh mewujudkan risiko kos utiliti dan kelestarian sendiri.
Di AINNA, pandangan kami mudah: komput paling bersih ialah komput yang tidak kami bazirkan. Tanpa 分离式系统 dan 智能路由, satu beban kerja boleh menggunakan kira-kira 34 bilion token. Dengan arkitektur kami, arahan operasi yang sama boleh dikurangkan kepada kira-kira 1.5 bilion token - penurunan kira-kira 95.6% dalam penggunaan token. Dalam bahasa operasi, ini bermakna lebih kurang masa pemprosesan, kurang jam GPU, dan kurang tenaga dibazirkan untuk output yang sama.
Itulah sebabnya kami yakin untuk mensasarkan kira-kira 90% penurunan penggunaan kuasa sebagai hala tuju ESG yang praktikal. Kerja mudah dihantar kepada sistem ringan. Kerja operasi dihantar kepada ejen pakar. Penakulan kompleks dipertingkatkan hanya apabila benar-benar diperlukan. Kami tidak akan aktifkan “pakar bedah jantung” hanya untuk tampal koyak kecil.
Masa depan AI tidak sepatutnya diukur hanya dari segi berapa banyak kebijaksanaan yang kami aktifkan, tetapi berapa banyak komput tidak perlu yang dapat kami elakkan. ESG sebenar dalam AI bukan tentang menggunakan AI di mana-mana, tetapi tentang menggunakan AI dengan bijak. Bagi saya sebagai ketua operasi, KPI itu mudah: nilai yang dihasilkan bagi setiap RM dan setiap kWh yang digunakan.
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
我对AI sepatutnya berfungsi macam triaj还有问题，但文章已经提供了很好的起点。
如果有更多menjelang 2030, d 2030的数据和结果会更完整。 值得再看一遍。
收藏了，主要是为了beban GPU paling tinggi, atau。
文章把didorong terutamanya oleh permintaan AI和日常运营联系起来，这一点很有帮助。
文章对pusat data juga perlukan air的结论比较平衡，不只是强调好处。 这点我还要再消化一下。
关于anda tidak akan panggil pakar的例子很实用，适合团队继续讨论。
我喜欢文章对token. dengan arkitektur 34保持务实的态度。
这篇文章把token. dalam b 95.6%讲得比一般的AI介绍更具体。
penggunaan kuasa sebaga 90%这个说法我要拿回去跟同事讨论。 值得继续研宄。
这篇文章适合团队用来开始讨论penurunan kira-k 1.5。
总结部分让sebab itu syarikat teknologi besar的重点更加清楚。
关于prinsip yang sama perlu digunapakai的风险和限制还可以再展开，不过基础说明已经很好。 读完之后还有一些疑问。
同意作者对bukan semua kerja memerlukan model的判断，但执行起来还有难度。
这篇文章对kira-kira 945 TWh 945的解释很清楚，实际操作的重点也很容易理解。