科技

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

作者:小编 2020-06-26 11:11:44 阅读:0

原标题:奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中
贾浩楠 发自 凹非寺
量子位 报道 | 公众号 QbitAI
还记那只被众网友...

原标题:奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

贾浩楠 发自 凹非寺

量子位 报道 | 公众号 QbitAI

还记那只被众网友玩坏的「最强马赛克修复AI」PLUSE吗?

前两天我们报道了杜克大学发布在CVPR 2020的这项成果,还放出了一大波效果实测。

其中一张 奥观海同志复原图引起了读者 SilverCasque的注意:

他留言说「还原的全是白人的脸,黑拳警告」。

没想到这位读者神预测,现在,PLUSE果然因此惹出了大麻烦。

就连深度学习巨头LeCun出来为这项技术辩解,也被国外网友和同行炮轰。

PLUSE:不允许你不白

PLUSE一经推出就引起了极大的关注,但是,网友实际使用PLUSE,却发现了一个很严重的问题:PLUSE无法准确还原有色人种图像。

如果只是还原失败,弄出一个不人不鬼的东西,最多只是技术问题。

但麻烦的是,PLUSE不仅还原出了完整的人脸,还是一张五官端正漂亮的 白人脸。

这在如今高喊「黑命贵」的美国,无疑是一股扎眼的“逆流”。

有网友就拿奥巴马的低像素照片反复测试,结果无一不是白人男性,更加坐实了PLUSE的罪名。

后,知名机器学习博主Robert Osazuwa Ness拿不同有色人种的低像素照片去测试,这其中有他自己、有美国著名国会议员Alexandria-Ocasio Cortez,和华裔女星刘玉玲。

看到模特皮肤不够白,PLUSE还十分执着地给他安上了一头金发…….真的是「不允许你不白」。

Alexandria-Ocasio Cortez是美国有史以来最年轻的国会议员,拉丁裔,也被强行洗成白人。

对于亚裔,PLUSE更不客气,你甚至看不出一点人物原本真实的特征。

比如博主Robert Osazuwa Ness自己的妻子:

华裔女星刘玉玲:

总之,在外国网友的测试中,PLUSE无一例外的把少数族裔强行洗白,似乎在有意纠正人们的肤色和五官特征。

网友对此反映自然很激烈,有人认为这是一种带有种族歧视的、非常危险的技术;

这一种观点引起了较多共鸣,还有人紧跟着晒出了其他「种族偏见」的AI算法,比如这位一个将照片变成文艺复兴风格的算法也将别人强行洗白:

有人干脆给PLUSE起了个新外号:「白人雷达」

但是也有一部分网友认为,算法本身是没有所谓「种族歧视」的,问题出在了用来训练算法的数据集上。

PLUSE的核心StyleGan是在FFHQ上训练的,有网友认为尽管它的人种多样性好于严重偏向白人的CELEB-A,但仍然不够。

有网友截取了一部分FFHQ的人脸数据集:

确实够白的……但有人同时指出,除了数据集的偏差,还有一种可能是模型的崩溃失效,算法“偷懒”,仅仅把人像漂白,而不是为不同种族和面部特征建模。

但也有人认为,即使用相同数据集训练StyleGan也能生成非白人结果,问题还是出在算法上。

网友对PLUSE的口诛笔伐目前还没有得到论文原作者的回应。

但另一位机器学习元老却首先发声了。

LeCun也中枪,到底冤不冤?

深度学习巨头LeCun对于网友对PLUSE几乎一边倒的抨击进行了回应:

他认为,机器学习系统带有偏见是因为数据带有偏见。假如在塞内加尔采集的数据上训练,输出肯定都是黑人。

随后他还补充道,相比于这种纯学术论文,这个问题应该是工程师更加关注的,实际部署中这种偏见会有严重的后果,盯着几个学者讨伐没有什么意义。

话一出,顿时引起了同行的炮轰,外媒报道,一个可问责AI研究者Deborah Raji控诉LeCun:

对LeCun的言论十分震惊,这反应出了 行业领军人物的麻木不仁(lack of awearness)。

不明白像LeCun这样处在如此关键位置的人,为什么会认为学术研究对工程部署没有影响。

社会的偏见不可能靠一个「正确」的数据集去解决。

LeCun对这样的指责颇有些无奈,他对外媒说:

我从来没说过学术研究无法在应用中确立规范。

我之前也在Facebook建立领导过致力于AI技术公平性的工作组。

其实,稍聪明的读者都能明白,LeCun的意思是说,论文只是提供了解决问题的思路,实际应用中的问题复杂的多,这才是应该关注的。

借由一篇论文的结果炮轰研究人员,以此标榜自己的政治正确、贩卖观点,这一点是LeCun不愿意看到的。

技术本身是无罪的,国外炮轰PLUSE这一事件超出了技术本身,甚至也早就超出了科学伦理的范围,这大概就是美利坚特色科研吧。

你怎么看?

参考链接

特惠福利 | 一站式音视频解决方案

想赶上直播电商、在线教育、小程序直播的风口?腾讯云音视频解决方案为您助力!

腾讯云推出9.9元产品体验包,包括云点播、云直播、实时音视频,总有一款适合你。识别二维码即可体验:

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态

喜欢就点「在看」吧 !

上一篇:一大波AI新技术新应用来了!上海人工智能企业期待线上盛会
下一篇:隐秘的角落:WAIC 微软 AI 家园