《 江南论坛 》欢迎您!   2020-04-10 星期五   加入收藏 | 设为主页 联系电话:0510-81827346
社会治理 首页 >

人工智能时代公共部门决策:机遇、挑战与展望

作者:邓 可   文章来源:本站原创   点击数:150   发布日期:2019-7-25

丹尼尔·贝尔在其著作《后工业社会的来临》中曾预言,一种新的“智能技术”将会被创造以制定决策,这种智能技术能够追踪许多变量之间详细相互作用的多变量分析,用数理计算法代替直观判断,依托于计算机运用科学知识以可复制的方式来解决问题。随着人工智能、机器学习和数据基础设施的进步,人工智能在公共领域中的应用出现了爆炸式增长,人工智能已然成为了丹尼尔·贝尔预言的决策制定的智能技术。人工智能在公共部门决策系统中发挥着越来越重要的作用,它承担了以往管理者的管理任务,改变了管理民众和组织的方式。从积极方面来看,人工智能在公共部门的应用能够提高决策效率,使公共决策迅速获得数据支持,且保证流程一目了然;同时,它能够提高公共决策的质量和公共服务的精准度,进而增加公民获得感。但科学技术具有两面性,人工智能也不例外。探讨人工智能技术应用于公共部门决策的机遇和挑战,在采取措施尽可能降低应用风险的同时把握新技术带来的机遇,对于政府治理现代化具有重要的促进作用。

一、人工智能与公共决策议题

学术界虽然并未对人工智能的定义达成一致意见,但是对人工智能的发展和应用两大基石——数据和算法达成了普遍共识,即人工智能技术是基于大量数据基础上构建算法体系从而实现目标的智能技术,人工智能成功的关键在于数据和算法。随着大数据分析、机器学习等技术的发展,人工智能就不仅仅是现有流程的简单自动化,它或多或少地涉及设置结果并让计算机程序在那里找到自己的方式。

过去,人们叫机器做什么;现在,机器提醒人们做什么,人工智能对管理决策产生了革命性影响,被广泛地应用于私人领域和公共领域决策过程中。我国《促进大数据发展行动纲要》指出,要建立“用数据说话、用数据决策、用数据管理、用数据创新”的管理机制,实现基于数据的科学决策,这体现了我国公共部门决策系统中人工智能技术的应用需求。随着人工智能的发展,它在公共部门决策系统中的重要性日益凸显,如何在尽量减少风险的同时把握它给公共决策带来的机遇是各国政府面临的重要议题。

二、人工智能在公共部门决策系统中的应用机遇

1. 提高公共部门决策效率

人工智能的核心目标是能够为带来最大价值的领域提供更深入、更重要的见解。在公共部门,人工智能的高级算法能够比人类更快地发现趋势。通过使用快速处理和分析海量数据的机器,政府部门可以简化涉及数据驱动计算或重复的任务从而提高决策效率。张学友演唱会犯罪嫌疑人的成功抓获就是公共部门运用人工智能最成功的案例。在演唱会现场,安保人员通过架设安检门并联通公安黑名单库,可以快速实现人脸图像的抓拍和特征点的提取,之后将人脸数据模型结构化,作为数据源录入数据库,进行后台的分析和比对,及时有效地实现身份的确认和甄别。系统事先存储在逃人员的图像信息,当逃犯出现在布控范围内,系统捕捉到逃犯的面部信息后,便与后端数据库快速比对,如果某人与数据库中的逃犯图像比对成功,系统就会发出警告信息,让警方轻而易举地掌握逃犯的实时动态。公共部门利用人工智能技术能够很好地掌握事情的本质和发展态势,为公共决策的执行赢得时间优势,对比以前的政府决策模式,这种分析预测解决问题的方式能够提高公共事务处理的效率和公众满意度。

2. 提高公共部门决策质量

基于大数据分析、算法分析、机器学习等人工智能技术的发展,公共部门可以实现经验决策向科学决策的重大转变。人工智能在公共部门决策系统中的应用,能够为管理决策提供统计依据,使得公共部门决策质量更高。如杭州市政府利用共享单车的数据,通过大数据分析技术获得决策支撑调整了公交车站点,有效解决了人们交通出行的痛点。英国的“智能高速公路”使用嵌入式传感器和神经网络系统对道路状况的反馈来预测和管理交通流量。以往公共部门由于信息资源有限、信息数据处理手段单一等难以获得科学精确的决策。借助于人工智能技术,公共部门可以收集到更多有效的信息资源,通过智能化过程自动生成决策支撑方案,公共部门决策者获得了更加科学合理的决策选择方案。人工智能在公共部门决策系统中的应用极大提高了决策质量,为推动政府治理现代化添加了强大动力。

3. 促进公共部门决策精准化

传统公共服务理论认为公共服务具有批量生产、非个性化的特征,随着人工智能的发展,公共服务的概念将被重写,公共服务将被赋予个性化特征。公共部门利用人工智能进行辅助和支撑决策,将会促进公共部门提供公共服务的个性化和精准化。人工智能时代,人们被符号化和数据化,通过分析人们行为之间的相关性,能够预测人们的行为趋向、反映人们的需求特征等,为公共服务的精准化提供条件。我国精准扶贫项目中,民政部门利用人工智能技术,对贫困户精准定位,并根据贫困户的特征选择合适的扶贫方式以帮助其实现脱贫目标。公共部门通过人工智能技术可准确感知、预测、预警基础设施和社会安全运行的重大态势,及时把握群体认知及心理变化,主动决策反应,将显著提高社会治理的能力和水平,促进资源利用最大化,极大提高公共服务的精准化水平。

三、人工智能在公共部门决策系统中的应用挑战

1. 决策数据来源不足与内在偏见

数据是人工智能系统最关键的成分,人工智能系统需要大量的数据才能发挥作用,算法依赖于输入的数据,预测模型需要清晰明确的步骤,而且需要正确的、大量的数据来确保正常运行。一方面,公共管理领域变量的不可数据化可能会导致数据数量不足;同时,合适的数据通常分布在不同的政府部门之间,每个部门都需要特殊的权限才能访问,公共部门之间的“数据孤岛”导致公共部门人工智能决策缺乏数据支撑,缺乏足够的数据可能会使算法的应用缺乏公平。例如美国阿勒格尼县没有所有家庭的数据,其数据仅从使用公共资源的家庭收集(即低收入家庭),这导致了一种只针对低收入家庭进行研究的算法,并且可能产生反馈循环,使得进入系统的家庭难以完全摆脱它所需要的监管,对受到不利影响的家庭来说是不公平的。另一方面,数据可能具有偏见。虽然人们相信人工智能能够移除决策中的偏见,希望利用算法和数据为人类社会各种事务和决策工作带来完全的客观性,但是在算法系统构建过程中,代码的设计涉及编程人员的主观判断和选择,偏见可能随之被嵌入。从一开始,一些培训数据点可能带有错误的标签。此外,用于培训的数据收集可能偏向社会希望保护免受歧视的特定群体。在实践中,具有最佳意图的无偏见的开发人员,可能无意中产生具有偏差结果的系统,因为即使是AI系统的开发人员也可能会理解不了它以防止意外结果。

2. 人工智能系统的运作黑箱

人工智能本质上是一种建立在大数据基础上的自我学习、判断和决策的算法,算法的核心是基于网络的编程技术,人工智能的算法决策具有典型的“黑箱”特点。首先,公共部门在决策过程中使用了人工智能技术,但是不向公民公开。其次,人工智能本身具有不透明性。包括因商业或者国家机密而产生的不透明性、技术文盲导致的不透明性、机器学习算法特征固有的不透明性等。这些不透明性导致受决策影响群体并不知道决策是怎么得来的,存在误导大众的可能,从而影响公共决策的公信力。

3. 构建算法者与受决策影响群体之间的情感距离

算法在决策中的应用应该以服务受影响群体为目标,而不是一味地讲求节约时间和资源。正如《数学性破坏武器》的作者Cathy O'Neil说的那样:我们完全阻隔了构建算法的人与受到它们实际影响的人之间的联系。算法让机器为我们在棘手的社会问题上作出的决策而不是我们自己做出抉择,这样的方式有一种情感距离。这种数据科学家、公共部门管理者和公共决策受影响群体之间联系断层问题可能会导致算法决策的不公平。

4. 人工智能对人类决策自主权的侵蚀

人工智能给公共部门提供了决策依据,通常决策者认为算法每次都遵循相同的程序,不受情感因素的影响,没有代理能力,因此被认为比人类决策者更少偏见。现在存在一种利用数学将人类社会事务量化、客观化的思潮,人们崇拜数据,寄希望于通过算法、模型、机器学习等数据手段重塑一个更加客观的现实世界。因此,使用人工智能做出有关人员的相应决策,经常取代人类行为者和机构做出的决定。一个公共机构的工作人员不加思索地依赖于算法结果来行使酌情权,可能会非法“酌情决定”内部“本土化”算法,或者被视为非法地将决策权委托给外部开发的或外部运行的算法,或通过放弃其判断预先确定其决定,Hildebrandt使用术语判断性萎缩来描述这些结果。算法决策往往因其超越人类本能的优越性而被吹捧,公共管理者开始用算法的结果解决问题时,他们可能会完全放弃自己的管理角色,用算法结果替代他们自己的判断,从而使得系统变得更加阶级化并且带有种族偏见。如果社会变得异常依赖技术和新发明,就会给社会制度带来一种危险的不确定性质。

四、人工智能在公共部门决策系统中的应用展望

1. 构建数据开放共享机制

人工智能的核心是算法,而算法的关键是数据,数据是人工智能的基本要素。传统时期政府为了适应社会事务专业性而形成了条块分割的管理架构,这些条块分割导致了政府部门之间信息“数据孤岛”的形成,阻碍了部门之间信息数据的有效交换。与此同时,许多与民生相关的数据掌握在企业手中,公共部门的决策不仅依赖于政府内部的数据资源,而且还要依赖于企业手中的数据信息。因此,公共部门利用人工智能技术辅助或者支持决策,要求政府内部之间、政府与企业之间的信息整合,构建政府内部信息数据共享平台,加强政府与企业数据共享是保证公共部门成功利用人工智能技术进行决策的第一步。

2. 人工智能决策过程公开透明

公共部门是一个特殊的机构,其独特的义务不同于私人组织,它必须对其行为方式保持透明,遵循正当程序,并对全社会民众负责。公共部门在应用人工智能制定或者辅助决策时,应该告知公民。《通用数据保护条例》第13-15条(信息和访问权利),已被用于规范算法决策的兴起,数据主体必须被告知自动决策的存在,包括资料搜集。人工智能在决策过程中的应用应该公开透明,公民应该被告知人工智能进行决策的充分原因,人工智能在这个决策过程中决定了什么以及为什么。通过决策过程的透明化,为其他的专家进行动态审查监督并改正模型提供了机会,同时也能够提高公民对该决策的认知以及信任度。

3.决策过程和结果的可解释性和可理解性

即使输入数据和算法方法被公开,算法的两个机制之间的相互作用仍然是复杂的。许多人工智能采用复杂的神经网络,甚至连他们的设计者都无法解释他们是如何得出答案的。《通用数据保护条例》将“解释权”纳入其中,即用户可以要求相关组织解释他们所作出的算法决策。因此,在保持算法决策整个过程公开透明的同时,算法构建者应该考虑受决策影响的所有利益相关者的关注点,考虑到其算法构建的深远影响,考虑算法究竟预测什么或者不预测什么,并且在结果展现时能够向决策者、受决策影响者解释。这种透明性和可解释性的人工智能决策应用是确保公平性的关键。同时,受算法决策影响的群体应该有机会对决策过程进行评估、纠正和影响,这要求民众具有较高的人工智能技能素养。因此,应该加强民众计算机教育培训,提高其人工智能技能。

4. 明确人工智能技术的决策辅助作用

英国政府发布的《人工智能:未来决策制定的机遇与影响》报告指出:人工智能在决策系统中的辅助作用应该受到关注,政府部门需要透明化人工智能在决策中的角色。不能利用算法来逃避做出艰难的决策,或者推卸关心他人的责任。在这些情况下,算法不是答案。算法决策依赖于数据输入,人类决策者掌握着算法中不能被输入变量的知识,人类决策者必须对那些算法中没有包含的元素保持活力,以最大限度降低“判断性萎缩”导致不正确授权算法的风险。机器的决策是为人服务,人有权决定要不要采纳机器的意见。正如尤瓦尔·赫拉利《未来简史》说:“最重要的是处理好人类和技术的关系,让技术服务人类,而非奴役人类!”因此,公共部门在利用人工智能进行决策时,应该保持对决策的主导性。

五、结语

人工智能在公共部门决策体系中的应用对于提高公共部门决策效率、提升公共部门决策质量和促进公共服务精准化具有巨大的潜力,同时,公共管理领域变量的不可量化、数据碎片化、数据偏见,人工智能系统的运作不透明性、构建算法者与受决策影响者之间的断层,以及人工智能对人类决策主导权的侵蚀等,对公共部门使用人工智能决策提出了挑战。因此,在大力发展人工智能和掌握其决策机遇的同时,应该高度重视人工智能在公共决策系统应用中可能存在的风险挑战,保持人类的决策主导权,最大限度降低不利因素,确保人工智能在公共领域的安全、可靠、可控发展和应用。

(作者单位:武汉大学政治与公共管理学院)

【责任编辑:江民】

社科

最新期刊

第三期

江南论坛期刊2020年

在线预览

电话:0510-82759685   邮编:214000   地址:江苏省无锡市复兴路122号4楼400室
版权所有:江南论坛   备案号:苏ICP备12063891号  推荐使用IE9及以上浏览器 技术支持:无锡跨度数据科技有限公司  0510-85749979