服务常常会错误地描述跨性别者和非双性人。
只要简单地看一眼一张脸，新兴的面部识别软件现在就能非常准确地对许多男性和女性的性别进行分类。但根据科罗拉多大学博尔德分校的新研究，如果那张脸是跨性别者的，这种系统出错的几率会超过三分之一。
“我们发现，面部分析服务对跨性别者的表现一直较差，而且普遍无法对非二元性别进行分类，”该研究的第一作者、信息科学系的博士生摩根·克劳斯·舍伊尔曼(Morgan Klaus Scheuerman)说。“虽然有很多不同类型的人，但这些系统对性别的认识非常有限。”
这项研究发表之际，面部分析技术——利用隐藏的摄像头来评估和描述一个人的某些特征——正变得越来越流行，被嵌入到从智能手机约会应用、购物中心的数字亭到机场安全和执法监视系统的方方面面。
之前的研究表明，他们在评估白人男性的性别时往往是最准确的，但有三分之一的时候会误判女性的肤色。
信息科学助理教授、资深作者杰德·布鲁贝克(Jed Brubaker)说:“我们知道这些系统在种族和民族方面存在固有偏见，我们怀疑在性别方面也会存在问题。”“我们打算在现实世界中对此进行测试。”
对于某些性别认同，准确是不可能的
研究人员收集了2450张图片Instagram的面孔,每一个都被主人用标签标记来显示他们的性别认同。这些照片被分成七组，每组350张(女性、男性、变性人、变性人、无性别者、变性者、非二进制)，由四大面部分析服务提供商(IBM、亚马逊、微软和Clarifai)进行分析。
摩根克劳斯Scheuerman
当研究人员摩根•克劳斯•施尔曼(Morgan Klaus Scheuerman)将自己的照片提交给几家面部分析机构时，有一半人把他的性别搞错了。资料来源:Morgan Klaus Scheuerman/CU Boulder
值得注意的是，谷歌没有被包括在内，因为它不提供性别认同服务。
平均而言，该系统对顺性别女性(即出生为女性并被确认为女性的人)的照片最为准确，准确率为98.3%。他们对顺性别男性的分类准确率为97.6%。天富平台
但是有38%的时候变性男性被误认为是女性。而那些被认定为无性别者、性别酷儿或非双性恋者(即他们既不认为自己是男性也不认为自己是女性)的人100%都被错误地描述了。
布鲁贝克说:“这些系统只知道男性或女性的语言，所以对于许多性别认同来说，它们不可能是正确的。”
过时的刻板印象存在
这项研究还表明，这些服务根据过时的陈规定型观念确定性别。
当留着长发的男性Scheuerman提交自己的照片时，有一半人把他归为女性。天富平台
研究人员无法获得训练数据，也无法获得用于“教”系统男性和女性长什么样子的图像输入，但之前的研究表明，他们可以评估眼睛位置、嘴唇丰满度、头发长度甚至衣服等信息。
“这些系统有可能会强化人们对男性或女性外貌的刻板印象。这影响到每个人。”
人脸识别服务市场预计到2024年将翻一番，因为科技开发人员正致力于改善人机互动，并更谨慎地将广告目标锁定在购物者身上。
“他们想知道你的性别，这样他们就能卖给你更适合你性别的东西，”Scheuerman解释道，他指着一个被广泛报道的加拿大商场的小亭子里隐藏的摄像头来做这件事。
布鲁巴克已经指出的那样,人们每天接触面部识别技术来获得他们的智能手机或者登录自己的电脑。如果它有一种倾向，使某些已经脆弱的人口性别错误，那将会造成严重的后果。
例如，一款交友应用程序可能会给某人安排一场性别错误的约会，从而导致潜在的危险局面。Scheuerman说，面部识别程序所看到的性别与所携带的证件不匹配，可能会导致在通过机场安检时出现问题。他最担心的是，这样的系统会重申变性人无法融入的观念。
“人们认为计算机视觉是未来的，但很多人可能会被排除在这个所谓的未来之外，”他说。
两个面部分析系统识别的性别研究摩根克劳斯Scheuerman,谁是一个人,是不同的。
