• 以党的政治建设为统领BR 维护党中央权威和集中统一领导 2019-02-16
  • 曾祖父、曾祖母、祖父、祖母、父亲、母亲、重孙。一家7人,如果两家联姻,两家共十四人,请问:“看着就想笑”你那15人是咋算出来的? 2019-02-16
  • “世界杯时间”,以独特方式展现中国元素 2019-02-08
  • 弘扬光荣传统 勇立时代潮头 忠实履职尽责 2019-02-01
  • 资本市场开放新举措  有望激发外资投资热情 2019-01-27
  • 曾文明:全力冲刺决战决胜脱贫摘帽 2019-01-27
  • В Пекине закрылась первая сессия ВСНП 13-го созыва 2019-01-17
  • 【科普探长】地震自救12秒求生指南 2019-01-17
  • 毒贩电话遥控贩毒被抓 以为不碰毒品就没事 2019-01-09
  • 日本大阪发生6.1级地震 部分建筑受损严重 2019-01-09
  • CBA有毒?他曾是西甲得分王 来广东后只能在黑山打球 2018-12-27
  • 年度创投巅峰盛会:2017年度CEO峰会暨猎云网创投颁奖盛典在京举办 2018-12-27
  • 女子有才也是德,京城何时有女子学校? 2018-12-23
  • 端午节期间吉林省多雷雨 注意交通和旅游安全 2018-12-23
  • 暗访后,记者随国家抽查组摸排“地条钢” 2018-12-22
  • 新闻中心

    广东快乐10分人工计划 > 智能计算 > 业界动态 > AI性别歧视有救,MIT研究人员给出减少AI预测偏差新方法

    快乐十分神奇组合:AI性别歧视有救,MIT研究人员给出减少AI预测偏差新方法

    作者:时间:2018-11-20来源:镁客网收藏

    广东快乐10分人工计划 www.rgkx.net   在社交媒体的应用场景中,人工智能算法模型的偏差导致搜索结果或用户体验不佳常常出现,甚至可以说是无法规避,如人们熟知的大数据杀熟等??梢栽ぜ?,当应用到医疗保健、自动驾驶汽车、刑事司法或刑事处理等场景中时,更多关乎生命、公平、道德等的问题将会出现。此前,亚马逊用招聘出现了性别歧视问题就是有力的证明。

    本文引用地址://www.rgkx.net/article/201811/394569.htm
    AI性别歧视有救,MIT研究人员给出减少AI预测偏差新方法

      在世界每一个角落部署,这可能导致持续的系统性歧视,为此计算机科学人工智能实验室(CSAIL)研究人员创造了一种减少AI偏差,同时又不降低预测结果准确性的方法。

      据麻省理工学院教授DavidSontag所言,传统方法可能建议将与多数人群相关的数据集随机化,作为解决不同人群不平等结果的一种方法,但这种方会权衡较低的预测准确性,以实现所有人群的公平性,关键是从代表性不足的群体中挖掘更多数据。例如,研究人员发现,在一个案例中,AI模型将女性标记为低收入,男性标记为高收入,这是有失客观性的,因此他们通过将数据集中女性的代表性提高10倍,达到了将不准确结果的数量减少了40%的效果。

      Sontag在一份声明中给出这一设计的简单解释:“我们认为这是一个工具箱,可帮助机器学习工程师弄清楚他们的数据要问什么问题,以便诊断他们的系统为什么会做出不公平的预测?!?/p>

      他进一步解释说:“在这项工作中,我们认为预测的公平性应该在数据的背景下进行评估,并且样本量不足或未测量的预测变量引起的不公平性应该通过数据收集来解决,而不是通过约束模型来解决?!?/p>

      诚然,预测准确性的差异往往归因于数据缺乏或不可测量的变量因素,因此该研究团队建议在进行公平标准评论之前,对模型偏差,模型方差和结果噪声进行AI模型分析。

      对于这一研究的成本,Sontag表示,“这揭示并分离了数据收集不足和模型选择对公平性的不利影响。为了追求公平,其成本也要纳入到数据收集和模型开发的投资。但在某些十分重要的应用程序中,其好处往往超过成本?!?/p>

      在Sontag与其博士团队一起撰写的论文中,有这一方法的详细解释。据悉,该成果将于下个月在蒙特利尔的神经信息处理系统(NIPS)上公布。



    关键词: AI MIT

    评论

    技术专区

    关闭
  • 以党的政治建设为统领BR 维护党中央权威和集中统一领导 2019-02-16
  • 曾祖父、曾祖母、祖父、祖母、父亲、母亲、重孙。一家7人,如果两家联姻,两家共十四人,请问:“看着就想笑”你那15人是咋算出来的? 2019-02-16
  • “世界杯时间”,以独特方式展现中国元素 2019-02-08
  • 弘扬光荣传统 勇立时代潮头 忠实履职尽责 2019-02-01
  • 资本市场开放新举措  有望激发外资投资热情 2019-01-27
  • 曾文明:全力冲刺决战决胜脱贫摘帽 2019-01-27
  • В Пекине закрылась первая сессия ВСНП 13-го созыва 2019-01-17
  • 【科普探长】地震自救12秒求生指南 2019-01-17
  • 毒贩电话遥控贩毒被抓 以为不碰毒品就没事 2019-01-09
  • 日本大阪发生6.1级地震 部分建筑受损严重 2019-01-09
  • CBA有毒?他曾是西甲得分王 来广东后只能在黑山打球 2018-12-27
  • 年度创投巅峰盛会:2017年度CEO峰会暨猎云网创投颁奖盛典在京举办 2018-12-27
  • 女子有才也是德,京城何时有女子学校? 2018-12-23
  • 端午节期间吉林省多雷雨 注意交通和旅游安全 2018-12-23
  • 暗访后,记者随国家抽查组摸排“地条钢” 2018-12-22