✏️ Edit

AINNA NeuralOps:与马六甲 SIRIM 和马六甲 UPEN 携手推进可靠、节能的 AI

👁 181 views
AINNA NeuralOps:与马六甲 SIRIM 和马六甲 UPEN 携手推进可靠、节能的 AI

Alhamdulillah。

昨天,我们很荣幸地在 AINNA 接待了来自UPEN 马六甲(马六甲州经济规划局)SIRIM 马六甲的代表。我们尤其荣幸地邀请到 SIRIM 马六甲 局长 Kamarulzaman bin Ahamad Zainudin 先生参与此次访问。

此次访问是马六甲州企业家奖评审过程的一部分,我们借此机会展示了AINNA NeuralOps 的最新进展--这是我们面向实际部署而设计的、旨在让 AI 更高效、更可靠、更实用的新一代 AI 架构。

这次会议之所以特别有价值,是因为它并不是一场单向的演示。它演变成了一次有意义的双向技术讨论,并得益于 SIRIM 局长的真知灼见--他在 SIRIM 内部拥有超过 20 年的领导经验。

最具影响力的建议之一,是将原子钟集成进来,作为每个 NeuralOps 组件的可信时间源。将所有分离式系统、服务、解析器和 AI 智能体同步到同一个高精度时间基准,将进一步增强可靠性、事件一致性、可审计性以及整体系统完整性。

我们还演示了 NeuralOps 架构如何仅使用传统 AI 系统通常所需 GPU 算力的约 10%(针对优化后的工作负载)来运行。通过将分离式系统、智能路由、解析器和护栏相结合,GPU 资源仅在真正增加价值时才被调用,而确定性流程则在 LLM 之外运行。

该架构有可能将适用工作负载的GPU 计算能耗降低高达 90%。采用一个保守估计,即1,000 名活跃用户平均每天发出50 次 AI 请求,NeuralOps 每月可节省约459 千瓦时的电力,相当于每月减少约340 千克 CO₂e 排放,也就是每年超过 4 吨。实际结果将因工作负载、AI 模型、基础设施和能源来源的不同而有所差异。

对我们而言,AI 的未来不在于使用更大的模型或更多的 GPU。而在于构建更智能的架构,以显著更低的成本、更低的能耗和更小的环境足迹,交付相同或更好的成果。

请在我们继续这段旅程时为我们祈祷。入选将为我们带来巨大的动力,因为未来几周我们正准备迎接三场重要的路演

我们衷心感谢UPEN 马六甲SIRIM 马六甲 的到访、富有建设性的讨论以及宝贵的见解。我们期待将这些想法转化为 AINNA NeuralOps 的下一步演进。

Artificial 智能

Article image
生物研究 微生物学与癌症疾病研究情报 6 个输入 → 可追溯的研究优先级 探索 →
边缘 AI 物联网与嵌入式Linux 边缘智能 14 个边缘代理 → 支持离线运行 探索 →
智慧城市 AI驱动的智慧城市基础设施与运营 24 个领域 → 一个智能运营层 探索 →
IC设计运营 可重复性、可追溯性与验证智能 21 个独立服务 → 85% 无需 LLM 探索 →
AINNA
点击我

站点版块

暂无版块数据。

已记录版块的站点将显示在此处。