Twitter新方案：审视自家算法里的“无心之失”

首要任务之一是评估Twitter图像裁剪算法中的种族和性别偏见。随着越来越多的新闻网站和社交媒体采用AI识别、提取图片，人们开始注意到许多算法，尤其是面部识别中存在的种族偏见。

此前有Twitter用户指出，在有不同人种的照片中，Twitter的自动图像裁剪算法会在选择预览推文呈现的缩略图区域时，更加突出肤色更浅的人像区域。

去年9月，有研究人员发现，点击这些原始图片，可以看到其中包含更多其他肤色的人群，但即使改变了原图中深色人种和浅色人种出现的位置，预览结果也不会改变。

也有网友认为，出现这一情况是因为算法更倾向于提取图像中的亮度高和色彩密度大的区域，并不是“歧视”。

针对算法被指控种族歧视一事，Twitter当时回应称，将展开更多调查，并承诺将其图像裁剪的机器学习算法开源，接受更多用户的审查和建议。

首席技术官Parag Agarwal表示，该算法需要不断改进，团队也渴望从经验中学习。

从上个月起，Twitter开始测试显示完整图像而不是裁剪预览。

但就算Twitter的算法并非“故意”种族歧视，但研发过程中很可能会有一些缺陷导致种族歧视的出现。

NVIDIA的AI研究总监Anima Anandkumar就曾指出，显著性算法采用的训练集，是异性恋男性的眼球追踪的数据，这显然会将受试者的种族偏见转移给算法。

此外，Twitter还将研究其内容建议，包括时间线信息流在不同种族群体中的差异性等。

Twitter表示将与第三方学术研究人员“紧密合作”，分析结果后续将会分享出来，并征询公众的反馈。

目前尚不清楚这一计划将产生多大影响。Twitter表示，这些研究成果不一定会体现在肉眼可见的产品变化是，更多时候是围绕他们构建和应用机器学习的方式进行重要讨论。

Twitter首席执行官杰克•多西（Jack Dorsey）也曾表示，他希望创建一个算法市场，类似应用商店的形式，让用户能够控制自己使用的算法。该公司在其最新的博客文章中说，他们正处于探索“算法选择”的早期阶段。

（编辑：核心网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!