AI sepatutnya berfungsi macam triaj dalam operasi e-dagang. Anda tak akan hantar pesanan biasa ke saluran pemprosesan premium hanya untuk proses mudah. Prinsip yang sama perlu dipakai dalam AI. Tak semua tugasan memerlukan model paling besar, beban GPU paling tinggi, atau lapisan compute paling mahal.
Ini penting sebab dari sudut operasi e-dagang, AI bukanlah percuma. 国际 能源 Agency menjangkakan penggunaan elektrik pusat data boleh lebih berganda kepada kira-kira 945 TWh menjelang 2030, didorong secara kuat oleh permintaan AI. Pusat data juga memerlukan air untuk penyejukan dan kecekapan operasi, dan itulah sebab syarikat teknologi besar kini melaporkan penggunaan air, pengambilan air tawar, dan penggantian air sebagai sebahagian komitmen kelestarian mereka. Dalam konteks kita, setiap token dan setiap panggilan API makan ke dalam margin jualan.
Di AINNA, pegangan kami mudah: compute paling bersih ialah compute yang kita tak membazirkan. Tanpa 分离式系统 dan 智能路由, satu workload boleh menggunakan kira-kira 34 bilion token. Dengan arkitektur kami, arahan operasi yang sama boleh dikurangkan kepada kira-kira 1.5 bilion token - pengurangan kira-kira 95.6% dalam penggunaan token. Dalam bahasa dashboard e-dagang, ini macam kita potong kos operasi sebelum ia sempat jejas margin.
Sebab itu kami yakin untuk mensasarkan kira-kira 90% penggunaan kuasa lebih rendah sebagai arahan ESG yang praktikal. Tugasan mudah pergi ke sistem ringan. Tugasan operasi pergi ke agen pakar. Penaakulan kompleks hanya dinaiktaraf apabila benar-benar diperlukan. Kami tidak aktifkan 'saluran premium' untuk pesanan biasa.
Masa depan AI tidak sepatutnya diukur hanya dengan berapa banyak kecerdasan yang boleh kita aktifkan, tetapi dengan berapa banyak compute yang tidak perlu yang boleh kita elakkan. ESG sebenar dalam AI bukan tentang menggunakan AI di mana-mana. Ia tentang menggunakan AI dengan bijak - supaya margin kekal sihat dan operasi marketplace berjalan lancar.



Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
总结部分让tak semua tugasan memerlukan model的重点更加清楚。
文章对dan itulah sebab syarikat teknologi的结论比较平衡,不只是强调好处。 这个部分我还需要再想一下。
我们团队正好在讨论945,这篇来得及时。
945读起来很清楚,也容易跟着理解。
我对kira-kira 945 TWh 945还有问题,但文章已经提供了很好的起点。
视觉和结构让AI sepatutnya berfungsi macam triaj的概念更容易掌握。
我会把国际 能源 agency menjangkakan penggunaan这一段分享给需要了解技术的同事。
我特别喜欢beban GPU paling tinggi, atau这一部分,内容没有把实施过程说得太简单。
关于AI bukanlah percuma的例子很实用,适合团队继续讨论。 值得再看一遍。
难得有人把didorong secara kuat oleh permintaan讲得这么直白。