<small id='AmFsQH'></small> <noframes id='aFpTAWh'>

  • <tfoot id='n3DwKeO8rY'></tfoot>

      <legend id='bvlQa2Ui6k'><style id='x8eLMdXN6l'><dir id='fr9H2GoiNb'><q id='ZhjKFx143'></q></dir></style></legend>
      <i id='8Ey6'><tr id='ITCjQ6JnB'><dt id='ZYn0Fm3g'><q id='YgSjIdq7z'><span id='J76t'><b id='OgbENus27i'><form id='gRedzb'><ins id='a6Blb87AR'></ins><ul id='rsUwap'></ul><sub id='m6s0PrJTv'></sub></form><legend id='QjkJKfRg'></legend><bdo id='T5lsarBxVZ'><pre id='d0lsRQvJ'><center id='rR0YGDJ'></center></pre></bdo></b><th id='AG7sBXTrD'></th></span></q></dt></tr></i><div id='1rOXIS6mgC'><tfoot id='Ws8VG'></tfoot><dl id='1HMO'><fieldset id='A8sx'></fieldset></dl></div>

          <bdo id='e08Q1zWidX'></bdo><ul id='rVG2Q'></ul>

          1. <li id='kIJ9mtfFg'></li>
            登陆

            社会技术系统中的公平性及其抽象

            admin 2019-11-01 171人围观 ,发现0个评论

            摘 要:

            机器学习社区的一个方针是开发的机器学习体系社会技术系统中的公平性及其抽象,一旦被引进社会环境,就可以完成公正性。计算机科学中如笼统和模块化规划用于界说公正缓轻视的概念,以发作公正感知学习算法,并在决议计划模块流程的不同阶段进行干涉发作“公正”的成果。但是,在本文中,作者以为这些概念使技能干涉无效,不精确,当他们进入时或许会被误导。环绕决议计划体系的社会布景,咱们用五个“圈套”来概述这种不匹配,即机器学习体系或许会有轻视乃至由于它是具有上下文认识传统的数据科学。作者经过学习社会技能体系的研讨,在科学技能研讨中解说为什么会有这样的“圈套”发作以及怎么防止它们。最终,作者经过制作笼统边界(abstraction boundaries),在不止朴实的技能要素方面,还在社会要素视点上,给出了在规划过程中防止“缺点”的办法和主张,而不是供给处理方案。

            背 景:

            在刚入门学习计算机科学时,咱们便了解到一个体系可以被描绘为一个黑盒,由体系的输入、输出以及它们之间的联系精确界说该体系,描绘该体系的抱负特性。至此,体系内部的结构和输入输出的来历现已被笼统掉了。

            机器学习体系的规划和构建旨在完成详细方针和绩效目标,如AUC,精确度和召回率等而疏忽其算法的公正性。到现在为止,公正感知机器学习范畴(fair-ML)一向致力于经过运用公正性自身作为黑盒体系的特点来规划更公正更公正的机器学习算法和模型。现在已有许多相关作业提出了公正性的界说,并根据给定的硬束缚或公正衡量发作最佳近似的公正保证,本文作者以为这些作业都仅限于一些特定范畴的体系,而非较为通用的办法。本文以为体系的不公正往往是由于疏忽笼统出其社会布景导致的,本篇文章给出了五种失利办法过错(failure modes of abstraction error),被称为结构圈套(Framing Trap), 可移植性圈套(Portability Trap),办法圈套(Formalism Trap), 波纹效应圈套(Ripple Effect Trap), 和处理方案圈套 (Solutionism Trap)。这些圈套都是缺少对社会布景怎么与不同办法的技能穿插的了解导致的,因而了解体系背面的社会布景对保证一个机器学习体系的公正是很重要的。

            笼统圈套(The Abstraction Traps):

            笼统对计算机科学尤其是机器学习至关重要。广义上,社会布景被笼统以便可以运用机器学习。 下面解说了五种不同的圈套:由于未能正确解说或了解技能体系与社会布景之间的相互效果而导致的失利办法(failure modes of abstraction error)。

            1. 结构圈套(Framing Trap):是指未能对整个体系进行建模,在该体系大将施行社会规范,例如公正性。机器学习中最常见的笼统包含挑选表明(of data)和符号(of outcomes),这些构成了对算法结构的描绘,算法的成效被评价为与输入相关的输出特点,如算法是否可以供给杰出的练习数据精确性,以及对同一散布中看不见的数据具有杰出的普遍性,本文将其称为结构的端到端的特点。但是在算法结构中笼统往往是给定的,而且很少被问询有用性,低质量的笼统便是形成该类缺点的主要原因。

            2. 可移植性圈套(Portability Trap):假如不了解怎么针对一个社会环境进行算法处理方案的规划,则在运用于不同的环境时或许会发作误导,不精确或其他方面的危害,该类问题被称为可移植性圈套。堕入结构圈套的一个原因是由于计算机科学文化很有价值而且常常要求可移植性。有目的地规划为尽或许笼统,被以为更有用(由于它是可重用的),技巧,高雅或美丽。简直一切受过计算机科学家或工程师训练的人都激烈要求这种必要性,并主张规划首要旨在创立独立于社会布景的东西。在机器学习范畴更为显着,从使命性质就笼统为分类使命,聚类使命,强化使命和回归使命等,从代码视点来说,很多东西代码库是鼓舞可移植性的。但是在不同的社会布景下,往往会形成可移植性圈套。

            3. 办法圈套(Formalism Trap):没有考虑公正性等社会概念的悉数意义,这些概念可所以程序性的,语境性的和可竞赛性的,而且不能经过数学办法来处理。在公正机器学习文献中最受重视的问题是公正的界说。其使命是在数学上界说社会公正的基本概念,以便将公正抱负融入机器学习。如费尔德曼等人,将相等就业机会委员会(EEOC)80%的规矩正式化为正式的成见衡量,他们称之为不同的影响。将问题约束在数学公式中会在社会技术系统中的公平性及其抽象实践中发作两个显着的问题。首要,没有办法运用纯数学办法在不行谐和的抵触界说之间进行裁定。办法化的第二个问题源于没有界说或许是描绘公正性的有用办法。公正缓轻视是哲学家,社会学家和律师长时间争辩的杂乱概念。它们有时是程序性的,上下文的和政治上可竞赛的,而且每个特点都是概念自身的中心部分,并非彻底办法化的。

            4. 波纹效应圈套(Ripple Effect Trap):未能了解将技能嵌入现有社会体系怎么改动现有体系的行为和嵌入值(embedded)。当技能被运用到社会环境时,它pixel既有专门的效果但也有意想不到的成果。意想不到的成果之一是体系中的人员和安排对干涉作出反应的办法。为了真实了解技能的引进是否会改进公正性成果,不只需求了解如上所述的本地化公正性问题,还要了解技能怎么与已有的社会体系相互效果。

            5. 处理方案圈套 (Solutionism Trap):未能认识到问题的最佳处理方案或许不触及技能的或许性。由于公正机器学习植根于计算机科学,往往会发作没有技能干涉就没有体系的概念。有两种状况,第一种是社会技术系统中的公平性及其抽象或许从技能开端便是过错的办法,或许更切当地说,不管迭代多少次,有多少近似值,建模状况都不会有用。第二种是当所需的建模如此杂乱以至于在计算上难以处理时,技能现已不足以处理问题了,强行运用只能形成糟蹋。

            对公正机器学习的主张

            1. 在研讨初期,需求对相关的社会布景及其政治(处理主义)有详尽的了解;

            2. 以可猜测的办法影响社会布景,使得技能处理后的问题在引进后坚持不变(涟漪效应);

            3. 可以恰当地处理对公正性等社会要求的激烈了解,包含对程序性,语境性和可竞赛性的需求(办法主义);

            4. 能适当地模拟了其布置的实践环境的社会和技能要求(可移植性);

            5. 构建异构结构(heterogeneously framed),以包含与本地化公正问题相关的数据(技能)和社会要素影响因子(社会)。

            引证:Selbst A D, Boyd D, Friedler S A, et al. Fairness and abstraction in 社会技术系统中的公平性及其抽象sociotechnical systems[C]. Proceedings of the Conference on Fairness, Accountability, and Transparency. ACM, 2019: 59-68.

            称谢:

            本文由南京大学软件工程系2018级硕士生王栋翻译转述

            感谢国家自然科学基金项目(重点项目)智能软件体系的数据驱动测验办法与技能(61932012)赞助

            请关注微信公众号
            微信二维码
            不容错过
            Powered By Z-BlogPHP