面部识别系统存在哪些「偏见」困境？这名年轻人的发言让 Jeff Dean 忍不住点赞

回到 Alexandria Ocasio-Cortez 引发的议论。她给到我们的一点启发是，AI 伦理学并非单纯的「减少偏见的技术方法」或者「应用伦理学」。而是偏见渗入到模型当中、或者模型以不适合的方式被使用、或者循环反馈机制加强偏见，因为这些原因交织而成的新问题。

我经常回想《大西洋》杂志一篇关于德国执法部门调查庇护申请的报道中所出现的这句话。当最终采用这些概率系统的用户将系统的性能归结为「天赐」的，而非人类，将会发生什么事情？

文章链接：

https://www.theatlantic.com/magazine/archive/2018/04/the-refugee-detectives/554090/

「BAMF 的面部识别软件以及由它所绘制的庞大数据库，现在看来像是「天赐的」，一位职员带有敬意地表示道。「我从来从来没见它出过错。」

我试图给出一些实际例子，说明涉及面部的识别能力可能导致什么样的严重后果，以帮助大家理解这个视频的大背景。然而，这些想法实际上都来自学界和公众的倡导。「当下」这个领域正在产生「如此之多」的学术研究，这些都是那些有见识的想法的来源。我们很幸运能够向 @timnitGebru、 @jovialjoy,、@hannawallach,、@mathbabedotorg,、@jennwvaughan 这样的专家们学习。

还有许多来自学术界和社会活动界的领导者们正在就如何记录、理解和减少偏见对人工智能的影响，进而减少人工智能对社会的负面影响，纷纷提出自己的想法。我们可以从这些地方找到这些想法 http://gendershades.org/（对行业实践和公众意识有着巨大的影响），以及这里 https://fatconference.org/index.html

我就以这些话作为本次意见发表的收尾吧。作为一名过去经常投入在面部识别相关研究工作的人，我非常感谢这个领域的专家们，他们的功劳包括发现了我当时所研究系统的严重问题（以及创造性的修复方法）。

【编辑推荐】

1. Gartner：37% 受调查组织现已部署人工智能
2. 谷歌发布自然问答数据集 Natural Questions
3. TiDB 的数据迁移工具现已开源
4. 这10家机构的24个调研数据让你将AI动向一手掌握
5. 你与数据科学家只差这 26 条 Python 技巧

（编辑：晋中站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!