面部识别对黑人错误率较高,人工智能有搞“种族歧视”吗?
比起2015年的谷歌,优步可能就没那么幸运了。一则“种族问题”的敏感度远远超过了2015年;二则涉及劳资纠纷,索赔的想象空间巨大。就在2021年10月5日,因“旗下工厂存在种族歧视问题”,美国旧金山法院判决某电动汽车厂商向前黑人员工赔付1.37亿美元。
那么,到底人工智能的识别误差能不能被视为“种族歧视”呢?这就涉及误差产生的原因。众所周知,人工智能是在特定模型下自我学习形成算法的,训练模型所依据的数据集和模型本身的设计都有可能带来偏差。数据集和模型本身哪怕只是出现了人力难以察觉的细微偏差,人工智能的海量运算也会将其放大到失真的程度。这样的问题在现有的技术条件下并不罕见。2013年谷歌人工智能预测流感暴发就“大翻车”了,预测数据比实际数据高了两倍。原因是经媒体报道后,很多没得流感的人也搜索了相关内容,导致人工智能的误判。
造成“有色人种面部识别率误差大”的技术因素甚至更为单纯——光学现象。2015年“黑猩猩标签”事件后,技术人员分析发现,识别错误率最高的不是非裔,而是亚裔(黄种人)女性,识别错误率高达20%。而“黑人”的识别错误率为5%——此处的“黑人”并不局限于所谓“非裔”,而是纯粹意义的深肤色,也包括印度裔、拉丁裔等等。