我正在观看《黑客帝国2：重装上阵》（The Matrix Reloaded），尤其是尼奥与先知交谈的那个场景，讲到程序创造程序、程序删除程序，以及程序在规则内运作。那一刻我突然觉得，这段情节与我目前正在现实世界中用 AI 智能体、LLM 和分离式系统（分离式系统）构建的东西非常契合。
如今，我正在从事分离式系统的工作，其中一些完全由参数控制，一些由普通 AI 模型辅助，还有一些则由高级 LLM 驱动，用于更深层的推理、规划和系统构建任务。有些系统被设计为独立运行，另一些则由一层 AI 引导，帮助解读输入、做出决策并改进工作流程。
我构建得越多，就越意识到：单靠一个 AI 模型并不能让系统变得强大。只有当模型与工具、内存、权限、日志、反馈回路、输入/输出信号以及部署访问能力相连接时，系统才会变得强大。那时，分离式系统才能超越简单地遵循指令，开始支持真正的运营决策。
简单来说：程序创造程序，程序审计程序，程序改进程序，最终，一个模型甚至可能被直接纳入系统本身。当系统部署在诸如 Raspberry Pi 这样的边缘设备上时，这就变得更加有趣--它可以接收现实世界的输入，并触发输出来支持现代机械、传感器、设备或运营装备。
但这也正是治理变得至关重要的地方。真正的风险不在于 AI “获得生命”。真正的风险在于，在缺乏审计、审批门槛、安全限制、回滚、手动覆盖和明确问责制的情况下，给予智能体过多的权限。当 AI 开始触及真实系统时，安全与控制绝不能被视为事后的补救。
对我而言，未来并不是一个巨型 AI 大脑控制一切。更好的架构更像一个组织：执行智能体处理重复性任务，监督智能体审查输出，规划智能体设计工作流程，审计智能体检测错误，执行智能体应用已批准的变更，而治理智能体则控制权限与安全。
我相信 AI 运营将朝着这个方向发展：不再仅仅是聊天机器人，而是结构化的自主系统，具备明确的角色、受控的权限、边缘部署和可衡量的问责机制。真正的问题不再是 AI 能否帮助我们构建系统。真正的问题是，对于一个能够帮助改进、控制甚至创造另一个系统的系统，我们应该安全地赋予它多大的权限。
#AI #代理AI #自动化 #LLM #边缘AI #RaspberryPi #独立式系统 #系统开发ment #商业自动化 #Ainna #数字化Transformation
