欧洲的热浪提醒我们,AI的未来必须是可持续的。
气候变化仍然是欧洲极端高温的主要驱动因素。与此同时,AI基础设施的爆炸式增长正在推高对电力、冷却和计算能力的需求。这是一个信号,表明行业不仅要专注于构建更多的AI,更要专注于构建更好的AI。
一种切实可行的方法是把分离式系统与智能路由结合起来。
智能路由不会把每个请求都发送给最大的云模型,而是为每项任务选择最合适的AI模型;同时,分离式系统允许工作负载尽可能在本地或专用基础设施上运行。其结果是更低的能耗、更低的网络依赖、更好的隐私保护、更低的运营成本,以及更强的韧性。
AI的未来不应以我们消耗了多少GPU来衡量。而应以其应用有多智能来衡量。
更智能的AI。更低的能耗。更强的韧性。可持续地设计。


