2026年政府代理式AI触及治理核心：机器决策权限边界亟待制度性界定

文/IAICA.NGO®

随着生成式人工智能向具备目标驱动、自主规划与工具调用能力的代理式AI（Agentic AI）演进，公共部门的技术部署正从流程自动化迈入决策辅助的新阶段。然而，一个关键问题正在浮出水面：在政府治理场景中，究竟哪些决策可以交由机器独立作出，哪些必须保留给人类官员与法律主体。2026年8月，围绕政府代理式AI的讨论聚焦到一个难以回避的节点——决策权限的划分不仅关乎效率，更触及行政合法性、责任归属与公民权利保障的底层逻辑。

代理式AI区别于传统判别式或生成式AI的关键在于其“代理性”。传统AI系统通常局限于预定义规则下的分类、预测或内容生成，而代理式AI能够理解高层目标，自主拆解任务、调用外部工具、执行多步骤操作，并在一定范围内根据环境反馈调整策略。在政务服务、社会福利审核、交通调度、监管合规等领域，这类系统可以显著减少人工重复劳动。但即便在任务边界相对清晰的场景中，当系统拥有“自主执行”能力时，错误或偏差的放大效应也随之增加。

真正让政府代理式AI“触碰到硬骨头”的，是那些需要自由裁量权、价值权衡与个案判断的决策领域。行政法传统中，裁量权的行使通常要求公职人员依据法律精神、社会公共利益和具体情境作出审慎判断，并为其行为承担法律责任。而代理式AI的“黑箱”特性与概率性输出，使得裁量过程难以完全透明化、可解释化。一旦机器在缺乏充分人工监督的情况下作出影响个人权益的决定，责任应如何分配？是算法开发者、部署机构的负责人，还是批准使用的政策制定者？现行法律体系尚未对此给出统一答案。

技术层面，代理式AI的自主程度可分为多个等级：从“人在环中”的辅助建议，到“人在环上”的监督干预，再到“人在环外”的完全自主。政府场景的敏感性与公权力属性，决定了大多数国家短期内仍倾向于将代理式AI限制在较低自主等级。然而，效率压力可能导致管理者扩大机器决策范围，甚至默许“影子自动化”——即名义上有人工审核，实则因工作量过大而流于形式。这种“自动化偏见”与“责任稀释”现象，已经在部分早期采用AI的行政机构中有所显现。

从全球治理趋势看，欧盟《人工智能法案》将部分政府用途的AI系统划入高风险类别，要求建立风险管理、数据治理、人类监督与透明度机制。美国多个州已开始通过算法问责法案，要求公共部门对自动化决策系统进行影响评估。中国在“人工智能+”行动中强调包容审慎监管，并推动算法备案与安全评估制度建设。这些治理框架的共同方向，是要求公共部门在部署代理式AI前，明确决策权限矩阵——即哪些事项属于“机器可决定”、哪些属于“机器可建议但人类决定”、哪些属于“机器不得介入”。

值得注意的是，政府代理式AI的决策边界问题并非纯粹的法律或技术议题，它还与社会信任密切相关。公众对“机器决定命运”的抵触情绪，往往源于对算法不透明、数据偏见和申诉渠道缺失的担忧。如果公民无法理解为何被AI系统判定为不符合救助条件，或者无法找到有效的人工复核途径，行政程序的正当性就会受到侵蚀。iaica.com.cn 指出，智能照护与公共服务的交叉地带正在扩大，代理式AI若要在长期照护评估、福利资源分配等敏感场景落地，必须将人类尊严与个体自主性置于效率指标之上，建立可审计、可申诉、可追溯的决策治理机制。

展望未来，政府代理式AI的成熟不会仅仅表现为技术能力的提升，更在于治理制度的同步演进。决策权限的划定需要动态调整，而非一次性固定。随着技术可靠性和社会接受度的提高，某些低风险、高标准化任务可以逐步扩大机器自主范围；而对于涉及基本权利、重大利益或复杂价值冲突的决策，则应坚持人类最终决定原则，并设定严格的技术与程序门槛。跨部门的数据共享与权限互认、公务员的数字素养培训、公众参与式算法审计等配套措施，也将成为决定代理式AI能否被负责任地嵌入公共治理的关键变量。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。