Google打脸！利用外包公司继续训练AI武器，被讽明修原则暗搞外包_风闻
量子位-量子位官方账号-2019-02-08 13:17
雷刚 安妮 发自 凹非寺
量子位 报道 | 公众号 QbitAI
难以置信，这竟是Google如今的做事方式。
或许你还没有忘记，有个叫Maven的美国国防部AI武器项目。
而且就是因为Google参与该项目，内部抗议一波接一波，离职进谏者不计其数，近4000员工联名声讨。
后来，内外压力之下，2018年6月，Google官方宣布停止参与AI武器研发，并发布AI原则作为指导。一时化舆论危机为道德风骨。
然而万万没想到，不作恶巨头也有明修栈道暗度陈仓那一套。
一边是高调建牌坊，另一边则背地里雇佣众包零工人员继续进行AI武器训练。
这，就是Google刚刚被曝光的新春之雷。
众包平台训练武器AI
事情从一家名为Figure Eight（图八）的众包公司说起。
图八公司，做的就是数据标注一类的工作。他们接项目，然后安排给平台上的“工人”，并以时薪1美元（7元）支付报酬。
工人们任务也不难，看起来都是一些简短且无须思考的任务，比如识别区分所给图像中的人物，是否符合要求——符合就框出来，不符合就下一张。
但根据美媒The Intercept最新截获的邮件显示，其中就有一个专门为Google和国防部完成的项目。
而且就是那个“声名在外”的Maven项目。
所谓Maven项目，简而言之就是无人机武器。但跟战狼中所用的人控无人机不同，这里的无人机有AI加持，拥有视觉能力，可以区分“敌我”，最后甚至能自主决定攻击。
但你也知道，AI实现区分“敌我”之前，需要人类通过大量数据和案例教会AI谁敌谁友、分清楚哪些是树木哪些是人——有多少人工，就有多少智能。
这个图八公司，接的就是这个生意。
所以按理来说，Google宣布停止参与Maven项目后，合作方图八的任务应该也就一并中止了。
但The Intercept截获的邮件显示，图八的数字工人们还在不断交付工作，只是他们并不知道究竟在完成什么项目、又是为谁工作而已。
图八方面也确认，Maven项目的任务还在继续。
所以换而言之，在Google宣布中止Maven项目大半年后，背地里还有模型训练的工作马不停蹄。
不知道那些以离职抗议的Google员工，知道真相后作何感想？
但Google官方已经对此表示未置可否。
The Intercept就此向Google求证时，发言人把问题转交给了图八公司——大概就是想表明这事儿得问图八。
不过就外泄的邮件内容来看，Google从中标Maven项目后不久，就已经跟图八公司展开了合作。
现在想要切割，为时晚矣。
评论汹涌
事情被爆料后，网友搬板凳看热闹的阵仗好不热闹。
无论是外媒、推特、论坛还是国内的微博，网友都开启了热议模式，针对此事的观点评论几乎可以一分为三。
有吃瓜群众对谷歌“表里不一”的行为表示大跌眼镜，把“不作恶”写进自己的准则却又一再打破，不少网友表示“让人失望”。
有网友感慨人工智能技术在成熟前竟然需要这么大的标注工作，先有人工后才有智能。
外媒VentureBeat的记者John Koetsier认为，整件事太讽刺了，人们为了训练AI最终能替代自己干活，竟然在做一些不需要动脑子的微小工作。
也有微博网友提供了一个点子，认为与其利用零工经济聘请兼职来标注，不如直接放到游戏里让玩家对其训练。
最多的讨论，是关于谷歌这次处理问题的态度以及影响，不少国外网友气愤的同时，又在“瑟瑟发抖”。
社会学家Casilli推特表示，这是一个有关发言权的问题。无论是兼职也好、零工也罢还是社交平台的用户，都有权利认识和监督其生产活动。
不少国内微博网友也认同此事，表示心疼这些连自己在做什么都不知道的公认。
网友TeameZazzu开始担忧谷歌的一系列AI军事项目，他认为正如美国国家安全局此前国内大规模监听丑闻那样，反恐工具很快就会转移到国内警察部门。在WAMI（广域运动图像）案例中，被执法机构使用显然是违反美国宪法的，是对自由、隐私和民主的生存威胁。
王子&庶民
当然，事件曝光后的评论中，另一个问题也被凸显。
在图八的整个工作中，由于雇主和项目可以选择匿名，而且工作任务被切分得极其细致。
所以工人们根本不知道自己在为谁工作，也不知道自己正在做什么。
那么争议来了：
在AI武器这样的“是非题”中，Google的员工有选择的权利，但图八的工人们，甚至连知情权都没有。
未来这些AI武器大杀四方甚至被非人道使用时，他们也不知道自己曾帮助过这些武器的实现。
所以在涉及道德争议任务时，是否也该让众包工人跟Google员工享有同等的知情权？
而且就在最近，参与Maven项目抗议的Google员工，还获得了“2018年度军控人员”的全球评选。
但图八公司的众包工人呢？如果不是今日事件曝光，可能他们永远不知道，自己一直在参与Maven项目。
迫于生计，他们可能也没有选择，但是否就此变相剥夺他们的选择权？
另外，明修牌坊，暗地里继续训练军事AI，这真的是Google的选择吗？
前情传送门：
谷歌与军方合作新料：决定AI不用于武器前，还想帮军方搜集情报