faceapp为涉嫌种族歧视道歉,如何消除ai算法偏见
近年来,许多科技企业都开始在其应用产品中潜入了机器学习软件来帮助用户做出更好的选择,然而有时候机器的选择也有可能带来不好的影响。近日,基于深度学习技术的图片编辑应用 faceapp 被指控其应用带有种族主义的色彩。 faceapp 这段时间在全球范围内都十分火爆,每天新增用户数量大约在 70 万人左右,用户只需上传一张自拍照或脸部照片,faceapp 就能够对其进行不同程度的修改,其中也包括老龄化处理以及性别转换等功能。然而问题在于,有用户指出,faceapp 应用中有一项名为"hotness"的滤镜功能,能够将图像中人物的肤色变浅,从而达到"美化"效果,就好比下图中前任美国总统奥巴马的照片在滤镜处理前后之间的差异。 面对这项指控,faceapp 的创始人兼首席执行官 yaroslav goncharov 也通过电邮声明作出道歉:"对于这个严肃的问题,我们深表歉意。造成该现象的主要原因来自于为应用提供支持的神经网络的 副作用 ,是其训练数据中存在的偏见性问题,并非是一项预期行为。目前我们已经第一时间对滤镜效果进行了调整,以消除任何不利影响。与此同时,我们也在加紧研发完整的解决方案,预计很快会与大家见面。" 虽然 faceapp 方面解释是 ai 系统训练数据的问题,同时为 faceapp 滤镜效果提供支持的 ai 技术也确实包含了一些开源数据库的代码,不过在这一点上 goncharov 并没有推脱责任,坦言用来训练"hotness"滤镜的数据集是他们自己的,并非公共的数据集,此次事件仍旧是 faceapp 内部的疏忽。如今 faceapp 已经将"hotness"滤镜的名称改为"spark",不过在更多的人看来这样的做法略显敷衍,他们应该暂时取消这项功能,直到新的替代方案正式问世。 事实上,机器算法偏见已经不是第一次出现,去年 snapchat 也曾推出过一个名为"yellowface"的滤镜功能,能将用户变成"黄种人",同样受到了种族歧视的指控。此外,facebook 也曾曝出过关于新闻推送方面的"算法偏见门"事件。 在一定程度上,我们的生活方式正在逐渐受到各种 ai 算法的之配,但 ai 并不意味着是绝对的公正。相反,这种由人类编写、其自身进化又是从人类生活中提取数据信息的 ai 系统,无论怎么发展也不可能完全摆脱人类的影子,甚至算法带来的偏见有时会对人类造成更加严重的影响。而与其反复地指责相关企业,倒不如针对该现象建立一个完善的"算法问责体系",打造出更加强大、健全的系统。 本文由 粹客网 原创,如需转载,请标明出处和原文链接。有创业项目想被报道？发邮件到这里:to 。