人工智能算法影响评价(algorithm impact assessment,AIA)作为一种治理机制已经被普遍性地纳入各国算法治理的框架体系之下,但其本身的制度定位与制度逻辑却尚未得到充分讨论。较为典型的反思性问题例如:人工智能算法治理的何种关键特征，使得我们需要纳入人工智能算法影响评价(即人工智能算法影响评价的必要性问题)?与往往被视为其前身的环境影响评估、数据隐私影响评估相比，人工智能算法影响评价体现了更多的继承和连续性，还是差异性(即人工智能算法影响评价的特殊性问题)?人工智能算法影响评价治理绩效的发挥，受到何种因素的影响(即人工智能算法影响评价的局限性问题)?对于这些问题的探索性回答，构成了本报告的主要内容。
人工智能算法影响评价的背景:界定治理问题
人工智能算法治理的特殊性,是开启人工智能算法影响评价制度建设的起点。从基本内涵来讲，人工智能算法影响评价是指技术研发者、部署者、应用者需要预期、测试、评估技术创新和应用过程中所可能带来的多维度影响，并对结果进行记录、公开或向监管者汇报，进而在积累算法治理经验与知识的同时，对其研发应用过程进行调整以避免负面伤害。作为一种监管手段，人工智能算法影响评价事实上将监管环节延伸至企业内部，要求企业基于评价结果以改变其技术创新和应用过程，而这一思路在很大程度上与传统的监管思路存在本质不同。
在经典监管理论看来，监管的目的旨在对市场失灵现象作出回应，以避免出现权益侵害风险。换言之，监管是直接面向可能出现的风险而展开，其针对的是风险结果而并不特别在意导致风险产生的过程。但影响评价制度却“反其道而行之”，即其更关注过程，并要求作为一线主体的技术创新者、应用者基于评价结果而对其内部的技术生产、应用过程作出调整。如果说传统监管仍然建立在较为明确的“市场-政府”边界基础上，那么影响评价制度则打破了这一“二分法”而直接切入进企业内部生产管理过程，以求对风险作出回应。由此带来的关键问题便在于，为什么我们需要跳出经典监管理论范畴而将监管“触手”延伸至企业内部，为什么需要施行影响评价制度?
对以上问题的一个简洁回答是，在多类型的市场行为中，存在大量的“未知风险”:这既包括因监管者与被监管者之间存在信息不对称而导致前者“未知”的风险，也包括监管者、被监管者都不知道的“未知”风险(即“共同无知”)。环境影响评估、隐私影响评估都属典型案例。接下来本报告通过三个算法治理的典型案例对此问题作出更详细的回答。
由于篇幅限制，本文是报告的部分内容，全球智库完整版报告一键直达，尽在TOP行业报告（小程序），如需更多完整版行业报告PDF文件，前往搜索top行业报告。
