用户中心

资讯 > 自动化软件

为何开展算法敏捷治理?如何落地?

www.cechina.cn2022.08.18阅读 980

  近日,阿里研究院和阿里巴巴人工智能治理与可持续发展研究中心(AAIG)邀请清华大学公管学院教授薛澜团队多位成员一同座谈,就算法治理、算法公平、算法透明等话题进行深入探讨。电子科技大学公共管理学院副教授、清华大学产业发展与环境治理研究中心研究员贾开老师,分享了《算法敏捷治理的挑战与解决方案》的思考。
  《算法敏捷治理的挑战与解决方案》报告内容分为三个部分:
  一、算法敏捷治理是什么?
  二、为什么开展算法敏捷治理?
  三、算法敏捷治理要如何落地?
  一、算法敏捷治理是什么?
  贾开以敏捷开发的历史为背景,介绍了新一代人工智能治理原则中“敏捷治理”的概念内涵与原理。“敏捷开发”是相对于传统的重量级软件开发方法而言,其更加强调在互动合作中响应快速变化而非遵循提前制定好的分工计划;与此类似,相比于传统的回应性治理、集中式治理,“敏捷治理”的特点也正体现于在模糊目标下,利益相关方的互动迭代与共同学习。
  二、为什么开展算法敏捷治理?
  贾开认为,敏捷开发与敏捷治理的共性特征,在于它们都是当所处环境从“无知”演变为“不确定”时,利益相关方行为策略应对的适时转变。无论对于软件开发还是治理而言,传统问题主要都是解决“无知”问题,即管理者或监管者缺少对于一线的理解控制工程网版权所有,并因此为了克服不确定性而采取一系列计划、分工等措施;但在当前,“不确定”性却上升为更重要的环境特征,无论是管理者/监管者,还是一线人员,都缺少对于问题及其应对方案的理解,因而形成迭代演化、共同学习的敏捷探索过程,则成为必然选择。
  在此意义上,贾开提出,敏捷治理事实上要求利益相关方(包括监管者和被监管者)形成一个持续性的共同学习和探索过程。在此过程中将形成暂时性结果并不断迭代,而对于暂时形成的结果,我们需要不断研究并伴随着环境的变化而做改进。这种改进将与治理环境的不确定性关联起来。所以现阶段我们的算法治理,很可能不会形成类似于传统治理框架下的明确规则或者说明确的任务分工,其重点反而在于如何通过敏捷的迭代与更新以形成共同探索的学习过程。
  贾开主要以算法公平、深度合成等治理议题为案例,解释了算法治理不确定性的来源与体现。以算法公平为例,贾开解释了“公平”这一概念复杂性的内涵,其首先体现为计算公平层面围绕一致性、正平衡性、负平衡性三个指标的艰难取舍与平衡。一致性是指针对不同群体的算法计算结果应是一致的,正平衡性(balance for the positive class)是指不同群体被正确识别的概率应是一致的,负平衡性(balance for the negative class)则强调不同群体被错误识别的概率是一致的。已有研究指出,在大多数情况下,这三个指标都很难同时实现,而这也在客观上意味着计算意义上的“公平”事实上并不具有确定内涵,而是一个选择、权衡的不确定过程。“算法公平”的复杂性远不限于计算层面,在社会、哲学等层面都存在更大的模糊地带与争议。
  贾开进一步指出,深度合成技术治理的“不确定性”主要体现为导致治理风险原因的复杂性。事实上,当我们关注深度合成带来的犯罪、声誉损害、信任侵蚀乃至政治操纵等风险时,导致风险的原因并不能简单归结为技术的滥用或误用。个体行为、业态、法律、政治、伦理等不同层面都是重要影响因素。举例而言,在行为层面,个体心理的锚定效应及集体行为的回音壁效应都是放大深度合成治理风险的关键机制,而锚定效应和回音壁效应本身存在的争议(到底是否存在,以及在何条件下存在)又进一步复杂化了对于深度合成治理风险的讨论。在此背景下,深度合成技术治理便不能仅仅只是“一禁了之”,而是要更为开放地注意到多重因素的联合影响与复杂关联。

  三、算法敏捷治理要如何落地?
  贾开进一步对算法治理的全球进展进行了梳理,指出当前具有三个特征:算法治理已经从理念、概念界定阶段发展到分类治理的落实阶段,算法治理的落实路径主要体现为以理念引导或遵循风险规制两种模式,算法治理正在逐步独立并形成完成体系。
  但即使形成了一定基础,算法治理的不确定性仍然是我们要面对的重大挑战,而如何落实敏捷治理理念和原则,则成为当前的重要命题。贾开指出,实验主义路径可能可以作为落实敏捷治理的重要路径。此时的治理环节包括四个动态反馈、相互关联的四个阶段:制定宽泛的治理目标、赋予一线自由裁量权力、开展同行评议,同时基于评议而反过来修正目标、标准或程序。贾开指出,为实现这样的治理转变控制工程网版权所有,还会遇到很多挑战,但我们仍然需要向这个方向不断迈进。
  在新兴科技革命的巨大推动下,人类开始迈进“万物数字化、一切可计算”的新时代。算法不仅成为生产生活的重要组织者,还是社会秩序的重要建构者,但它所带来的问题和风险也日渐凸显控制工程网版权所有,为此,世界主要国家都在积极探索算法治理体系,从而促进科技向善控制工程网版权所有,推动数字化转型和社会变革进步。此次研讨会邀请到多位在学术界、科研界享有盛誉的专家共商共议,通过学术的观点碰撞,激发算法治理体系更多的可能性。AAIG持续探索可用、可靠、可信的人工智能技术和应用,为推动构建完善算法治理体系作出更大贡献控制工程网版权所有,助力中国科技朝着星辰大海不断迈进。
  贾开解析了算法的敏捷治理相应的问题,并提出了对应的解决方案。阿里研究院傅宏宇介绍了敏捷治理的背景和意义。阿里相关人员通过线上线下结合方式积极参与了讲座互动。
版权声明:版权归控制工程网所有,转载请注明出处!

频道推荐

关于我们

控制工程网 & CONTROL ENGINEERING China 全球工业控制、自动化和仪器仪表领域的先锋媒体

CE全球

联系我们

商务及广告合作
任小姐(北京)                 夏小姐(上海)
电话:010-82053688      电话:18616877918
rendongxue@cechina.cn      xiashuxian@cechina.cn
新闻投稿:王小姐

关注我们的微信

关于我们 | 网站地图 | 联系我们
© 2003-2020    经营许可编号:京ICP证120335号
公安机关备案号:110102002318  服务热线:010-82053688