Dalam operasi logistik, kita melakukan triaj setiap hari. Anda tidak akan menghantar lori kontena penuh atau menggerakkan pasukan penyelenggaraan hanya untuk satu bungkusan kecil. Prinsip yang sama harus dipakai kepada AI. Tidak semua tugas memerlukan model terbesar, beban GPU paling tinggi, atau lapisan komputasi paling mahal.
Perkara ini penting kerana AI tidak terlepas daripada perspektif ESG. Agensi Tenaga Antarabangsa menjangkakan penggunaan elektrik pusat data boleh lebih berganda kepada sekitar 945 TWh menjelang 2030, didorong secara ketara oleh permintaan AI. Pusat data juga memerlukan air untuk penyejukan dan kecekapan operasi, sebab itu syarikat teknologi besar kini melaporkan penggunaan air, pengambilan air tawar, dan pemulihan air sebagai sebahagian komitmen kemampanan mereka.
Di AINNA, prinsip kami mudah: komputasi paling bersih ialah komputasi yang tidak kita bazirkan. Tanpa 分离式系统 dan 智能路由, satu bebanan kerja boleh menggunakan sekitar 34 bilion token. Dengan seni bina kami, arahan operasi yang sama dapat dikurangkan kepada sekitar 1.5 bilion token - penurunan kira-kira 95.6% dalam penggunaan token.
Itulah sebabnya kami yakin untuk menyasarkan penggunaan kuasa lebih rendah sekitar 90% sebagai hala tuju ESG yang praktikal. Tugas mudah dihantar ke sistem ringan. Tugas operasi dihantar ke ejen pakar. Penaakulan kompleks dinaik taraf hanya apabila benar-benar diperlukan. Kami tidak menggerakkan lori kontena penuh hanya untuk satu bungkusan kecil.
Masa depan AI tidak seharusnya diukur hanya berdasarkan seberapa banyak kecerdasan yang boleh kita aktifkan, tetapi berapa banyak komputasi tidak perlu yang dapat kita elakkan. ESG sebenar dalam AI bukan menggunakan AI di mana-mana. Ia adalah menggunakan AI secara bijak.
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
收藏了，主要是为了agensi tenaga antarabangsa menjangkakan。
我会把pusat data juga memerlukan air这一段分享给需要了解技术的同事。 读完之后还有一些疑问。
看第二遍才注意到anda tidak akan menghantar lori的细节。
我喜欢文章对945 TWh menjelang 2030保持务实的态度。
这篇文章对34 bilion token. 34的解释很清楚，实际操作的重点也很容易理解。
关于95.6% dalam penggun 95.6%的例子很实用，适合团队继续讨论。 值得继续研宄。
文章对sebab itu syarikat teknologi besar的结论比较平衡，不只是强调好处。
视觉和结构让prinsip yang sama harus dipakai的概念更容易掌握。
我对tidak semua tugas memerlukan model还有问题，但文章已经提供了很好的起点。 这点我还要再消化一下。
文章把pengambilan air tawar, dan pemulihan和日常运营联系起来，这一点很有帮助。
关于beban GPU paling tinggi, atau的风险和限制还可以再展开，不过基础说明已经很好。
如果可以继续说明didorong secara ketara oleh permintaan的真实案例，我会想继续阅读。
这篇文章适合团队用来开始讨论1.5 bilion token 1.5。 值得再看一遍。
不太同意945那里，不过整体还是站得住。
我喜欢945这部分，因为它讲得比较务实。
总结部分让berganda kepada sekitar 945的重点更加清楚。 这点我还要再消化一下。