• 合乐注册链接
    合乐注册链接

MIT SCAIL科学家研究出让AI算法自动消除偏见的方法

MIT SCAIL科学家研究出让AI算法自动消除偏见的方法

MIT SCAIL科学家研究出让AI算法自动消除偏见的方法

MIT SCAIL科学家研究出让AI算法自动消除偏见的方法

MIT SCAIL科学家研究出让AI算法自动消除偏见的方法

MIT SCAIL科学家研究出让AI算法自动消除偏见的方法

MIT SCAIL科学家研究出让AI算法自动消除偏见的方法

如今,算法中存在的偏见问题比大家所能想到的更为普遍。

比如:在2012年发表的一篇学术论文指出,来自Cognitec的人脸识别系统对非裔美国人的检测效果比白种人要差5%至10%。

另外,研究人员还在2011年的调查中发现,由中国、日本以及韩国开发的模型往往难以区分高加索人与东亚人。 而在最近的另一项研究中,谷歌与亚马逊推出的高人气智能扬声器在服务非本地用户时,结果显示其理解非美国口音的能力要低出30%。 而此前在2016年的一篇论文也提到,谷歌新闻文章中的嵌入词往往对女性与男性表现出刻板的性别印象。

对于这个困扰业界许久的问题,麻省理工学院算机科学与人工智能实验室(简称MITSCAIL)的科学家们不久前发表了一篇题为《UncoveringandMitigatingAlgorithmicBiasthroughLearnedLatentStructure(通过学习潜在结构提示并缓解算法偏见)》的论文(在科技行者对话界面回复MIT论文获取论文下载链接,这篇论文由博士生AlexanderAmini与AvaSoleimanhy、硕士研究生WilkoSchwarting以及麻省理工学院教授SangeetaBhatia与DanielaRus共同撰写。 论文中描述了如何通过重新采样确保人工智能系统对数据自动消除偏见,从而使最终给出的观点结果更为中立。

他们表示,当在专门设计用于测试计算机视觉系统偏见的数据集上进行评估时,这套方案表现出了更优越的性能以及更低的分类偏见。

作为作者之一的Amini在一份声明中解释称:虽然大家普遍认为人脸识别已经是一项较为成熟的技术,但很明显,即使是其中经常使用的数据集也并没有得到适当的审查。

对这些问题加以纠正尤其重要,因为我们已经开始看到这些算法被应用于安全、执法以及其它众多领域。 事实上,这已经不是MITSCAIL第一次就这个问题展开研究在2018年的一篇论文中,DavidSontag教授及其同事就提出了一种能够减少AI偏见而又不致降低预测结果准确性的方法。

但此次提出的新论文采用了一种新颖的、半监督式的端到端深度学习算法。 该算法会同时学习需要完成的任务本身(例如人脸识别)以及训练所用数据的潜在结构,通过对后者的学习,能够帮助其及时发现训练数据中隐藏或隐含的偏见,并在训练期间自动消除这种偏见,而完全无需数据预处理或注释。 实现方式研究人员打造的这套AI系统的核心,其实是一套变分自动编码器(简称VAE),能够模拟人脑中神经元的数学函数层,其本质是一种神经网络,具体包括编码器、解码器以及损失函数。 编码器负责将原始输入映射至特征表示,而解码器则将特征表示作为输入,以利用其完成预测并生成输出结果。

(损失函数则测量算法对于给定数据的建模效果。 )在使用这套VAE方案的情况下(论文中将其称为去偏见-VAE,简称DB-VAE),编码器能够在一定程度上学习特定数据点内潜在变量的真实分布近似情况,而解码器则立足潜在空间重建输入内容。 对解码结果的重建使得系统能够在训练期间对潜在变量进行无监督学习。

为了验证去偏见算法在具有重大社会影响的真实世界问题中的表现,研究人员们使用包含40万幅图像的数据集训练DB-VAE模型,并以八成对二成的比例将其划分为训练集与验证集。

在此之后,他们在PPB测试数据集上进行评估这套数据集包含来自非洲与欧洲各国总计1270名男女议员的图像。

结果令人眼前一亮。 根据研究人员的说法,DB-VAE不仅学会了识别面部特征,例如感知到肤色与头发的存在,还学会了区分性别及年龄等其它特征。

立足个人人口统计(种族/性别)及PPB数据集,在对多种模型进行去偏见与未去偏见结果比较之后,DB-VAE显示出更高的分类准确性并降低了由种族与性别引发的分类偏见研究团队认为,这是人工智能朝着公平与公正发展方向迈出的重要一步。

在论文中,研究人员这样写道:系统的开发与部署对于防止意外歧视并保证这些算法的长期有效运作至关重要。

我们希望自己提出的方法能够成为一种真正的系统化工具,从而促进现代AI系统的算法公平性。 技术进展过去十年以来,一系列失误事件让我们意识到人工智能确实存在潜在偏见,这无疑令人沮丧万分。 然而,问题的出现也让学术界在实现更准确、更客观中立的系统开发方面取得了可喜的进展。

除了麻省理工学院此次研究结果之外,还有许多企业也在该领域不断进行尝试和努力。 比如:。

MIT SCAIL科学家研究出让AI算法自动消除偏见的方法

而且在進餐前喝一杯水亦會有飽肚的感覺,讓人減少食量,達到瘦身的效果。新娘減肥法原則,韓國,節食新娘減肥法原則6.一周最少兩次泡澡能加快血液循環,水溫控制在42度左右浸泡,可以有助排汗去水腫,而且泡澡亦可以放鬆身心,紓緩婚前的緊張和壓力,有效改善睡眠質素。如家中未能泡澡,泡腳也是有助瘦身的。新娘減肥法原則,韓國,節食新娘減肥法原則7.時刻緊記去水腫有些女生容易水腫,在攝取水分時需要特別注意!在重要時刻前的日子,可以喝利尿的飲品去除水腫,如黑咖啡、紅豆/檸檬薏仁水,玉米鬚茶等。再者,會容易引起水腫的鹽亦要戒上一段日子。

热门文章