当前，以大模型为代表的人工智能技术加速演进，正由信息生成、认知辅助向任务执行、流程嵌入延伸，并由此带来应用边界拓展、风险形态变化和治理重心前移等一系列新课题。习近平总书记强调，要把握人工智能发展趋势和规律，不断完善相关法律法规、政策制度、应用规范、伦理准则，确保人工智能安全、可靠、可控，让人工智能这匹千里马既跑得快又跑得稳。准确把握人工智能的发展逻辑与治理路径，对于统筹发展和安全、推动人工智能健康有序发展，具有重要现实意义。
人工智能发展形态的阶段性跃迁
能力形态加快升级，人工智能由信息处理工具向任务执行系统拓展。与以往主要停留在文本生成、信息检索和认知辅助层面的人工智能不同，当前，智能体应用加快兴起，推动人工智能由“给出答案”向“完成任务”延伸、由“辅助判断”向“参与行动”拓展。一方面，大模型在语言理解、任务分解、多轮交互等方面持续进步，为复杂任务的步骤化处理提供了基础支撑；另一方面，工具调用、接口接入、任务编排等能力不断增强，推动人工智能由单轮响应走向链式执行、由结果生成走向过程参与。由此，人工智能的价值重心越来越多地体现为“执行了什么”“完成了什么”，而不只是“生成了什么”“回答了什么”。
应用空间加快拓展，人工智能由能力展示阶段向场景落地阶段迈进。随着数字化转型深入推进，企业对流程自动化、系统协同和效率提升的需求持续上升，推动人工智能由辅助性工具进一步向执行性工具延伸，逐步嵌入办公协同、软件开发、数据处理等具体场景。与此同时，个人用户对人工智能的功能期待，也由信息查询、内容生成转向任务代办、流程处理等更具复杂性的场景。特别是，当前智能体应用具有较强的参与性、可见性和传播性，用户通过持续调试、优化和适配，能够较为直观地感受到人工智能能力边界的外拓。
发展逻辑加快深化，人工智能由单点突破向技术与需求耦合演进。从更深层看，人工智能发展态势所反映的，不只是某一类产品热度上升，而是人工智能发展逻辑正在发生阶段性变化。一方面，模型能力持续提升，为智能体应用向任务执行延伸提供了关键前提；另一方面，效率提升、流程优化、系统协同等现实需求不断增长，为相关技术加快落地提供了广阔空间。与此同时，用户、平台、企业等多方主体在实践中持续调试、适配和重构技术能力，推动相关应用由封闭测试走向开放环境，由局部试验走向社会扩散。
风险外溢亟须完善人工智能治理
风险表现之变：由结果偏差加快向过程失控延伸。与以往主要表现为内容失真、信息偏差等认知层面风险不同，当前人工智能相关风险更多由“结果偏差”向“过程失控”延伸。此类大模型通过调用工具、分解任务、参与流程开展运行，一旦在任务理解、步骤拆解或执行环节出现偏差，便可能在多环节链条中持续累积、逐步放大，进而影响实际操作结果。特别是在自动编程、数据处理、流程执行等场景中，局部偏差有可能转化为连续性错误，带来超出预期的现实后果。
风险传导之变：由局部影响加快向系统外溢扩展。人工智能风险叠加，一个重要原因在于其传导路径明显拉长、外溢效应明显增强。代理式人工智能往往运行于“模型—工具—外部系统”相互连接的复合链条之中，涉及多主体、多接口、多环节协同运行，若某一节点出现问题，就可能形成系统性影响。尤其是随着插件生态、接口开放、平台协同等机制不断发展，人工智能系统能力边界持续外拓的同时，风险暴露面、攻击面和不确定性也随之上升，使风险更具隐蔽性、传导性和放大效应。
风险属性之变：由专业问题加快向公共议题转化。一方面，随着人工智能越来越深地嵌入现实流程，其运行往往是用户输入、模型判断、平台支持、外部工具调用等多重因素共同作用。一旦出现风险，责任边界难以清晰划分，既给现有监管体系带来挑战，也对平台治理、开发规范、使用规则提出更高要求。另一方面，风险外溢又与社会认知偏差相互叠加，进一步放大人工智能风险的公共影响。智能体等前沿应用的集中涌现，强化了公众对人工智能能力快速跃升的直观感受，也在一定程度上放大了对其替代能力和自主能力的想象。若实际效果不及预期或出现操作风险，不少用户又可能迅速转向质疑和否定。
构建分层分类治理体系推动人工智能发展
面对人工智能发展新态势，治理的关键在于针对不同风险形态、不同应用场景和不同责任主体，建立更具针对性和可操作性的治理机制。对这类新应用，既要看到其在流程重构、效率提升中的现实价值，也要正视其在权限调用、链式执行和责任分散中的风险隐患，在发展中划清边界，在治理中释放潜力。
聚焦“在哪儿用”的边界问题，建立面向场景的分层分类治理机制。任务执行型人工智能应用的风险，随着应用场景变化而显著分化。对涉及关键数据、核心业务、高风险操作的场景，治理重点应放在权限控制、行为留痕、人工复核和异常中止机制上，确保关键环节可追溯、可干预、可回退；对以效率提升、流程优化为主的一般性应用，则应在守住安全底线前提下鼓励探索，避免用同一套标准处理所有应用场景。只有把治理边界建立在场景差异基础之上，才能避免“一放就乱、一管就死”。
聚焦“怎么跑”的过程问题，推动治理重心前移到执行链条。与传统生成式人工智能主要围绕内容输出治理不同，当前人工智能存在的风险更多产生于执行过程而非输出结果。治理如果仍然停留在结果纠偏和事后处置层面，就难以及时应对链条放大和过程失控带来的风险。要把治理重心前移到任务分解、权限调用、关键执行和异常处置等环节，强化过程控制、节点约束和实时干预能力，防止局部偏差在运行链条中累积放大。
聚焦“谁负责”的协同问题，压实多主体责任链条。人工智能应用一旦进入现实流程，其运行结果往往不再是单一主体行为。为了避免陷入“出了问题找不到责任人”的困境，应围绕开发、部署、接入、运维等关键环节，进一步明确平台、模型提供方、工具服务方和使用主体的责任边界，健全责任追溯和风险分担机制，同时加强对插件接入、接口开放和外部服务协同的规范约束，降低系统性风险外溢。
聚焦“如何认知”的引导问题，把风险教育纳入治理体系。人工智能风险的放大，不仅来自技术本身，也来自公众对技术能力边界的误判、对使用场景的误配以及对自主执行能力的过度想象。治理不能只盯着系统和平台，也要把公众认知纳入视野。应通过风险提示、使用指引、场景化教育等方式，帮助用户建立对技术边界、应用风险和操作规范的基本认知，减少盲目跟风、过度依赖和不当使用，推动形成理性、有序、可预期的应用环境。
作者吴记，系中山大学管理学院教授
