本文来自微信公众号： 数字经济发展评论 ，作者：数字经济发展评论
导语
如果AI给出的政策建议被政府采纳，谁来判断其可靠性，又由谁为决策负责？阿联酋内阁9月启用由32个AI顾问组成的系统，辅助政策分析、影响评估和决策执行。这也引出一个值得关注的问题：政府该在多大程度上采信AI？
哈佛大学肯尼迪政府学院贝尔弗科学与国际事务研究中心的文章指出，政府不能只记录使用了哪个AI系统，还应明确AI的分析支撑了哪些政策主张、经过了何种核查，以及由谁授权采信。文章结合国际实践与案例，提出建立AI采信记录，将问责落实到具体判断之中。当AI开始影响政策依据，政府需要守住的不只是技术安全，更是对公共决策的制度性控制。
原文标题：Governments Need to Know When They are Relying on AI
原文来源：哈佛大学肯尼迪政府学院贝尔弗科学与国际事务研究中心（Belfer Center for Science and International Affairs,Harvard Kennedy School）
编译解读：数字经济发展评论
一、阿联酋内阁的32个AI顾问
9月2日，阿拉伯联合酋长国（UAE）内阁启动“内阁AI顾问”，这是一套由32个专门AI顾问组成的系统，职能是辅助内阁工作。据官方公告，该系统将分析政策与立法，评估它们在财政、经济、社会和环境方面的影响。它还会把议题同全球最佳实践、国家优先事项衔接起来，在获准的输入与来源范围内提出建议。
此外，它会与部长全天候配合，跟进内阁决定及其执行情况。这套系统已经不只是检索工具：它要分析立法，还要提出建议，实际上已经参与到判断之中。既然如此，谁对它的结论负责，就不能等到出了错再去追问，而要在部署之前就定下来。
这次公告之前，阿联酋已经陆续推出过几项举措。自2025年以来，它批准了一个把法律、司法裁决、行政程序与公共服务连接起来的监管情报体系；宣布设立国家人工智能系统，自2026年1月起担任部长会议、部长发展委员会以及联邦机构和政府公司董事会的顾问；定下两年内把半数政府部门、服务和运营转向智能体AI的目标；并批准成立直接向内阁负责的人工智能与数据管理局。
二、真正的难题不是采用，而是采信
这些公告说明政府希望AI在内部做什么。但产出之后怎么办，才是更难的问题：官员该给它多大权重，谁可以质疑它，它支撑的分析什么时候可以用来确立一项主张，什么时候只能算起草政策建议时的辅助。这两个问题并不相同：采用要问的是有没有用AI，采信要问的是AI的分析被允许起多大作用。
对数据量大、语种较多的行政部门来说，AI可以检索立法、翻译材料、归并征询意见、比较不同辖区、测试各种情景，这些能力确有价值。但采信关注的不是能力本身，而是一个机构允许AI支撑的分析，在多大程度上成为某项主张、估算、排序、风险评估、预算论证或建议的依据。真正要看的不是模型本身，而是这份贡献与这项主张之间的关系。
一个系统也许很擅长查找文件，但它对因果关系的判断并不可靠。它可以比较各国的做法，却说不清这些做法能不能照搬。如果要求它为某一个方案辩护，它也能写出一篇很有说服力的论证，但它不会去比较其他方案。这样一来，核查的对象就变了：过去审的是一个系统，现在要审的是一句话。可现有制度大多只管得到系统，管不到具体的主张。
三、近一半用例用于决策，管控明显滞后
在海湾地区，AI不只被当作一个技术产业，也被纳入公共部门能力和国家发展战略。沙特阿拉伯公共投资基金（PIF）于2025年推出HUMAIN，投资覆盖AI价值链各环节；卡塔尔的GovAI项目意在加快政府机构的AI应用，其通信与信息技术部与国家规划委员会2025年启动的一项计划，则为国家规划建设AI驱动的数据分析与战略决策支持。
这种趋势并不限于本区域。经济合作与发展组织（OECD）在2025年审阅了200个政府AI用例，其中近一半意在改进决策、形势判断或预测。按更细的类别划分，31%用于提高分析类任务的生产率，只有9%用于自动化琐碎事务。
OECD《2026年数字政府展望》发现，在有数据的36个成员国中，35个至少在一个政府领域使用了AI，但只有13个报告将其用于支持政策制定。运行环节的管控同样滞后：只有14个国家要求部署前风险评估，11个国家开展部署后审计。把这几组数字放在一起看，会发现AI已经进入决策环节，而记录和管控恰恰在这一环节最薄弱。
四、使用记录不等于采信记录
围绕AI安全、经济变化和地缘竞争的争论都很重要，但它们回答不了政府应如何治理自身对AI的使用。经合组织政府智能体AI工作组（OECD Working Group on Agentic AI in Government）的成员在9月的一篇文章中提出：智能体系统可以代表政府做什么、访问什么，依谁的授权行事，留下什么审计痕迹，其行为如何被中止或撤销。
政策建议环节也有一个相应的问题要回答：在官员采取行动之前，AI支撑的分析可以在多大程度上让某种主张变得有说服力。正式决策权也许仍在人手中，但证据层面的权威已经向上游转移。官员看到什么、什么被排在前面，正由这些系统决定。
这一缺口在既有的公共部门AI框架里同样可见。这些框架正在承认，有些AI产出比另一些承载着更重的制度分量。美国行政管理和预算局（OMB）2025年的一份备忘录，把“产出成为影响权利或安全的决定或行动的主要依据”列为高影响AI的判定条件之一。对这类用途，备忘录要求做测试、影响评估、监测、人工监督与风险接受。
澳大利亚现行政策自2025年12月起生效，分阶段要求指定问责官员、建立内部登记册，并对纳入范围的AI用例作影响评估。加拿大的算法影响评估用于判定自动化决策系统的影响等级。
英国的透明度标准要求为纳入范围的算法工具留存记录，其强制范围针对涉及个人、组织或团体的运行决定，不包括支撑宏观政策制定的分析模型；英国的AQuA Book则另就分析质量保证给出指南，涵盖AI与黑箱模型。
这些机制并非表面文章，它们确实在起作用。但问责仍然大多挂在系统、用例、项目或运行决定上，而政策上的采信往往发生在一个更具体的地方，也就是建议本身。一个部门可以知道某个工具已经登记、评估、披露，却不知道呈报给部长的文件里，哪一项主张因AI支撑的分析而更有说服力。
记录也不会显示官员把这份产出当作背景材料、分析支撑还是建议，不会显示他们如何核查，也不会显示谁授权采信。使用记录并不等于采信记录。把问责停在系统层面，会漏掉最要紧的一点：同一份建议里，各句话的分量并不相同，而AI恰恰能改变这个分量。所以，需要记录的不是“用了哪个系统”，而是“哪一项主张是靠AI的分析立起来的”。
五、一份捏造引文的报告，德勤退回末期款项
这个缺口不是假设出来的。德勤2025年为澳大利亚就业与工作场所关系部撰写了一份福利合规审查报告，其中出现错误引用，包括一段伪造的联邦法院引文。修订版披露使用了生成式AI，德勤同意退还这份44万澳元合同的末期款项。
该部门坚持报告的实质与建议并未改变，但事后公开的往来函件显示，获准的AI用途只是技术代码分析；至于归纳法律程序、准备引注等其他任务用了什么工具，官员事后才去追问。这可能没有改变建议，但争议材料对结论究竟起了什么作用，仍然无从确认。
这件事恰好显示出两种做法的差别：一种是发现错误之后再回头还原AI做了什么，另一种是在分析成稿之时就把它的作用记录下来。
六、采信记录写什么，写到什么程度
一项政策主张如果在实质上依赖AI支撑的分析，政府就应当保有一份采信记录，并尽可能沿用既有的保证流程。记录不必把每一次提示词都记下来，但要写清几件事：这项AI贡献帮助确立了哪一项主张，官员允许它起什么作用，依据的证据与来源是什么，做过哪些核查，谁可以质疑或否决它，以及由哪位官员授权采信。
如果AI不是协助官员起草建议，而是直接给出建议，记录还应包含关键的输入与输出，并指定一名官员负责复核和授权采信。凡是可能实质依赖AI分析的主张，都应当做一次移除测试：把这份AI贡献拿掉，这项主张是否还以原来的形式成立，建议会不会随之改变。
移除测试的作用，是把举证责任推回给提出主张的一方。一项主张如果经不起这个测试，就说明它原先之所以有说服力，靠的是那份AI贡献，而不是它自身的论证。
保证的程度应当与风险相称。如果AI只做语言润色或后果轻微的文书工作，几乎不需要额外保证。如果它负责归并征询意见、估算财政影响、审查法律选项、排列替代方案，或支撑内阁建议，那么保证的强度就要同时反映两点：这项主张在多大程度上依赖AI的贡献，以及一旦有误会带来什么后果。这只是要求留一份简短的决策记录，并不是要再建一套庞大臃肿的AI官僚体系。
七、主权：对判断的制度性控制
这同样是一个主权问题，但不只是通常意义上的那种。即便政府投资建设自己的AI能力，仍然要依赖全球的芯片、云服务、供应商、模型和技术标准，所以主权不可能只是拥有技术栈的每一层。
放到政策建议上，主权还必须意味着对判断的制度性控制，也就是知道AI系统在什么时候塑造了一项政策主张，这种影响如何被检验，官员又依据什么接受了它。这一层主权是买不来的：芯片、云服务和模型都可以采购，但制度上对判断的控制只能自己建立。
海湾的实践、OECD的证据，以及正在展开的智能体AI讨论，给出的结论不是政府应当放慢速度，而是提速需要更清楚的判断记录。AI进入政策建议，应当留下一份读得懂、可核查的记录：不只是用了哪个系统，还要写清政府允许AI的分析把哪些主张变得有说服力。