Facebook的机器人审查员能识别色情内容吗？——彭博社

乔治·洛根拍摄关于色情内容的老套说法是，当你看到它时就会知道。 Facebook打赌，不仅它会知道，而且这个社交网络将能够训练其计算机做同样的事情。

周五，该公司宣布了一项新的针对潜在争议页面的广告政策，表示将禁止包含暴力、图形或性内容的页面或群组投放广告。公司正在回应上个月的风波，当时品牌发现其广告出现在含有粗俗、性别歧视内容的页面旁边后开始撤下广告。在另一项不相关的举措中，谷歌表示将很快禁止其Blogger服务的用户发布成人业务的广告。

这些问题已成为互联网公司的常见烦恼，它们的网站上充斥着用户生成的内容。扮演裁判的角色并不令人舒适。公司不仅面临显得过于拘谨或对受冒犯方不够敏感的选择，而且简单地审查数百万条内容以确定每条是否违反某种敏感性是极其困难的。Facebook的判断过去曾受到质疑，公司删除了男同性恋接吻的图片，却允许充满强奸笑话的页面留在网站上。审查社交媒体上潜在冒犯内容的工作是一项低薪且非人性化的工作。

这一次，Facebook希望在将工作交给计算机之前，先利用一段短暂的人工审核期，该公司在描述其新政策时解释道：

为了确保彻底性，这一审核流程最初将采用人工方式，但在未来几周内，我们将构建一个更具扩展性的自动化方法，以防止和/或移除出现在争议内容旁边的广告。所有这些都将提升对可疑内容的识别能力，意味着我们能更好地确保广告信息出现在与品牌相符的页面和群组旁。

通过算法分析（例如识别大量裸露皮肤）来识别色情照片的计算机程序并非新概念。但Facebook面临的挑战不止于此：它必须判断在何种情境下哪些内容是不合适的。即便是人类也常难以做出这些判断。观察Facebook的计算机系统能如何应对这一挑战，将会非常有趣。