• 传统书法中的“意象” 2019-10-13
  • C919首飞机组技术支持团队:和大飞机一起舞动青春 2019-10-13
  • 《归去来》:青年一代 在温柔的撕裂中觉醒 2019-10-13
  • 在党的十九大精神指引下做好新时代党史工作 2019-10-11
  • 成都多家“悠游堂”关门停业 顾客会员卡退不了款 2019-10-11
  • 【长沙天气】最新长沙今天天气,实时提供长沙气温、空气质量、24小时天气预报、生活指数查询 2019-10-10
  • 秦皇岛开发区组织学生举行集体入团仪式(图) 2019-10-10
  • 专家:干细胞应用前景广阔 有望治愈世纪顽症 2019-10-09
  • 商务部:中国吸收外资形势稳中向好 2019-10-02
  • 5月问政报告:302条留言有回复 环保教育问题投诉增多 2019-10-02
  • 崇尚英雄 精忠报国——我们家的报国故事 2019-10-01
  • 【北京丰泰康宏车型报价】北京丰泰康宏综合店车型价格 2019-09-30
  • 《十五贯》救活昆曲之秘辛 2019-09-26
  • 卡瓦尼中柱 希门尼斯绝杀球 乌拉圭1 2019-09-26
  • 如何像皇帝、老佛爷那样避个暑? 2019-09-25
  • 社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

    2019-03-16 10:54 稿源:全媒派  0条评论

    201811151621144309_52.jpg

    图片来源图虫:已授站长之家使用

    香港马会内幕透码 www.cxhae.tw 看完一个陌生人的死亡视频后,惊惧再次席卷了Chloe。

    尽管她已经接受了三周半的训练,试图在那些日复一日出现的仇恨言论、恐怖袭击、色情图像相关的推文面前,为自己筑起足够坚固的防御体系。没有人安慰她,因为这是她的工作日常,也是凤凰城站点为Facebook审核内容的 1000 名审核员的日常。对于世界各地的 15000 名内容审核员来说,这也只是工作中再平常不过的一天。

    内容审核员们隐身于社交平台之后,把自己活成了抵挡违规信息、却同被负面信息所侵蚀的一道盾牌。多的是人诟病社交平台依然存在的负面言论给自己带来的伤害,却很少有人考虑这道在负面信息下首当其冲的盾牌的生存状态。

    The Verge近期推出了有关Facebook内容审核员的专题报道,文章作者采访了代理Facebook内容审核服务的科技公司Cognizant的员工,揭露了他们的心理创伤、管理制度以及审核标准等问题。本期全媒派(ID:quanmeipai)将编译这篇文章,与读者一同了解这群为机器打工的“隐形人”的故事。

    生存背景速写

    隐形、压力与不确定性

    文章所采访的Cognizant的前任或现任员工,其实都和公司签订了保密协议,承诺不去谈论他们负责的内容审核工作。这既是为了?;に敲馐芏阅谌萆蠛瞬宦挠没У娜松砬趾?,也防止他们泄露Facebook用户的隐私。

    但这同样意味着,他们的工作状况不能为人所知,哪怕是身边的亲人朋友,都无法分担他们在工作中所遭遇的孤独、焦虑等心理负担。以及,公司Cognizant和Facebook也会免于为审核员提供的工作待遇是否合理等争议。因此,文章中所出现的相关员工皆为化名,除了Cognizant的副总裁Bob Duncan和Facebook全球合作伙伴运营总监Mark Davidson。 

    不平等的薪资待遇

    相比Facebook正式员工平均 24 万美元的年薪,这里的内容审核员一年只能拿到 28800 美元的薪水。

    2017 年,扎克伯格宣布扩大Facebook的“社区运营”团队,新增 4500 名内容审核员,到 2018 年底,Facebook已有 3 万多名员工从事安全方面的工作,其中约一半是内容审核员。审核员中包含全职员工,但Facebook更多依赖外包合同工来完成审核工作——他们遍及全球各个地域与各个时区,并且关键在于,用人成本极低。尽管扎克伯格曾经警告投资者,安全投资会降低Facebook的盈利能力,但最近一个季度其利润仍然同比增长61%.

    微观管理压力

    不平等的不仅是薪资,还有不为外界所知的工作环境与工作氛围。

    这一天,内容审核员Miguel在早上 7 点来上班,他是即将填满这一工作地点的 300 名员工之一,部门占据了凤凰城办公园区的两层空间。Miguel首先经过了由安全人员严格把守的入口,这是为了警惕心怀不满的前任雇员和Facebook用户的报复性行为。再接着,他朝储物柜走去。员工储物柜数量不够,所以开始有一些人把东西放在柜子里过夜,以确保第二天还能有储物柜可用。储物柜所在是一条狭窄的走廊,休息时间,走廊里会挤满员工。

    Miguel和其他人一样,把手机也放在了储物柜中,这是为了?;acebook用户的隐私。如下图所示,除了手机,有记录用户信息风险的书写工具和纸张也被禁止携带,甚至包括口香糖包装纸。洗手液之类的小型物品,需要放在透明塑料袋里,以便管理者查验。

    公司禁止携带的物品

    为了适应每天 4 班的轮班制,以及内部较高的员工流动率,大多数人不会被安排在Cognizant所说的“生产区(the production floor)”的固定办公桌上。Miguel找到了一个开放使用的工作站,登陆名为“单一评审工具(Single Review Tool,简称SRT)”的软件,点击“内容审阅”按钮,开始了他一天的工作。

    随机性高但容错率低的审核标准

    Miguel在审核内容时,需要恪守一套以“准确度(accuracy)”命名的衡量标准,这一标准由Facebook员工与外包人员审核结果的一致性所决定。

    具体来说,Miguel需要对每条内容完成两个测试:是否违反社区规则,以及违反规则的原因,如果这条内容确实违反规则应当删除,但Miguel选择了错误的原因,这也会影响他的准确度评分。在Miguel每周所做出的约 1500 条内容的审核决定中,Facebook会随机选择50~ 60 条进行二次审核,首先交由被称为QA(质量保证)的内部员工审核,再由Facebook正式员工审核QA的决策所形成的数据集,生成准确度得分。

    Miguel对这一标准十分不以为然,“准确度通过一致性来判断,如果我和二次审核人员都赞同贩卖毒品,那么‘这一内容不属于违规内容’的审核决定也会是正确的。准确度不过是一个谎言?!?/strong>

    不仅如此,审核员达到准确度指标的困难还在于,他们要综合考虑各种给定的衡量标准。内容审核标准由 4 个方面构成:

    首先是Facebook的公共社区规则,这包括两部分,公开发布的规则与篇幅更长的内部指南;

    其次是对这些文件中已知问题的额外评论和指导,长度为1. 5 万字;

    第三是审核员之间互相讨论得到的共识,尤其是在枪击案等突发事件之中,但有时会出现错误共识,管理人员就需要四处来回解释正确的决定。

    内容衡量标准的 4 个主要来源

    第四个方面处理起来最复杂,来自Facebook的内部信息发布工具。虽然官方政策调整每两周的周三公布一次,但对于进展中突发事件的补充性规则却时刻接踵而至,这些标准汇总于Facebook企业版软件Workplace之中,和Facebook一样,会呈现出根据热度由算法进行排序的信息流,管理人员发布的规定常常相互矛盾,且不按时序出现,而如果审核员看到了过时的信息,就会出现准确度失误。“有时候,感觉像是Facebook自己开发了产品跟他们作对”。

    即便在这样复杂且随机的审核标准下,他们的审核误差也被限制在很小的范围之内,就像是玩一场高风险高难度的游戏,起始分数为 100 分,如果你失误到 95 分,就会面临离职的风险。不过,Miguel有权利向判定他为错误的QA提起投诉,让QA同意他的决定。在这种情况下,QA也成了压力的承担者。一位叫Randy的QA就经常被审核员威胁,要他改变审核决定,Randy不得已开始带枪上班——他一直到辞职都没有扣动扳机,但他的焦虑却挥之不去。

    夹缝中的休息与排遣

    到了Miguel的休息时间,他点击浏览器插件打卡,以便公司记录自己准备离开办公桌。Facebook总监Davidson表示,这是行业惯例,公司需要追踪自己的员工在哪里。

    Miguel一共有两个为时 15 分钟的短休息,和 30 分钟的午餐时间。在休息室,他常常发现洗手间排起长队,数百名员工共用一个小便池和两个男厕隔间,以及三个女厕隔间。公司允许员工使用另一层的洗手间,但Miguel不愿意来回花费几分钟,当他上完厕所,随着人群挤到储物柜前时,还有五分钟的时间看一会儿手机,再回到办公桌前。

    Miguel和其它员工一样,每天有 9 分钟的“健康时间”,管理层设置用意在于,当员工感到精神受到创伤时,可以利用这段时间离开办公桌休息。一些审核员会趁这段时间排队人少去洗手间——而管理层禁止了这一做法,认为这是对“健康时间”政策的误解。

    “不要用‘健康时间’去厕所”

    员工被提倡的做法是,有时间要通过拨打咨询师的电话来应对工作压力,或者选择瑜伽等其他放松活动。但对于审核员来说,这些资源并不足够,他们用工作期间的性行为、毒品和侮辱性质的笑话来缓解压力。前审核员Sara说,他们不允许和亲友谈论自己的工作,这使同事之间更加亲近,但不是合作带来的正向情感,而是一同发泄的创伤性牵绊。

    审核员Li说,“我甚至没办法告诉你,我和多少人一起抽过大麻(文章补充:医用大麻在当地合法),我想到这个,是真的觉得难过。我们嗑到嗨,然后回去工作。试想一下,全世界最大的社交平台,审核员上班时间一边做这些事情,一边还要接着审核内容……”

    无处安放的心理创伤

    于是,Randy在上班时随身佩枪,Li默默容忍同事为了发泄对他讲的种族歧视笑话,Chloe在观看完一段谋杀视频之后崩溃,哪怕离职之后都无法摆脱相似情境触发的创伤症状……凝视深渊太久,他们觉得自己也将被深渊吞噬。

    “我们所做的事,

    让灵魂变得黑暗”

    在上文提到的为了缓解创伤症状而出现的歧视性笑话、毒品滥用和创伤性情感联系之外,他们还开始渐渐接受一些极端观点,陷入阴谋论与怀疑主义之中,而这些观点恰恰是他们要审核的内容。

    比如,一位QA经常和同事讨论他认为“地球是平的”,并且竭力说服其他人也相信这一观点。已经离职的Randy也认为,这份工作改变了他的世界观。在看了那么多声称9/ 11 并非恐怖袭击的视频之后,他开始相信了。去年的公园枪击案发生后,审核员最初对袭击非常震惊,但随着更多的阴谋论内容被发布到Facebook与Instagram上,一些同事的态度开始动摇。审核员们开始在上班时间疯狂搜索相关阴谋论内容,而完全忘记了自己的审核立场。

    “做这份工作逃不过PTSD”

    几位审核员说,他们经历了继发性创伤压力(secondarytraumatic stress)的症状,感到焦虑、失眠、孤独和分裂感,这是一种由观察他人的创伤经历而导致的心理障碍,症状与创伤后应激障碍(PTSD)相同,原本常见于医生、心理咨询师与社会工作者。

    继发性创伤压力的症状:焦虑、失眠、孤独、精神分裂

    Chloe在离职后的几个月出现了创伤症状。电影中的刺伤场景引发了她对于审核时期暴力视频的回忆;有一次她睡在沙发上,突然听到开枪的声音,原来是家人在观看暴力视频节目,她当即无法忍受,几近抓狂。Randy在离职之后,对刀产生了一种天然的恐惧,他原本喜欢烹饪,但现在回到厨房看到刀,对他来说则难以忍受。他在接受采访时说,“从事这项工作后,不患上某种急性应激障碍或是PTSD是不可能的?!?/strong>

    “当你不再害怕时,

    你会做什么”

    一些管理者让笔者看到了另外他们所采取的解决措施。报道前一周,总监Davidson提到,Facebook开始对一部分审核员进行测试,以衡量他们所需要的“弹性(resiliency)”指标,即从创伤内容中恢复过来继续工作的能力。他说,公司希望尽快将测试拓展到全球所有的审核员。

    而在笔者被邀请实地访问的前一天,Cognizant的办公园区里贴上了新的激励海报。办公区域比记者的想象要丰富得多,墙上用彩灯装饰的图表描绘了月度活动,看起来有种夏令营和老人活动中心的混搭风:瑜伽、宠物疗法、冥想,还有“周三请穿粉红色”的活动。记者去的当天是“随机善行周”的末尾,这一周,员工被鼓励在彩色卡片上写下鼓舞的话语,并用一块糖果把他们贴在墙上。

    在和管理者坐在一起的群体采访中,一些现任员工们都承认这项工作的挑战性,但表示他们感觉到安全、被支持,并且认为这项工作能够带来更好的薪酬与机会——如果无法进入Facebook,在Cognizant内部也好。政策经理Brad告诉笔者,他和同事们审查的大部分内容为良性,并提醒笔者不要夸大其所带来的心理健康风险。公司内部的心理咨询师则表示,他们每天都和每个员工联系,他们认为现场咨询、热线电话和员工援助计划的结合足以保障审核员的健康状态。

    笔者参观结束,离开的时候发现公司内部审核员几乎都为 20 多岁或者 30 岁左右,当他经过,所有内容审核工作都要暂停,确保他不会看到任何Facebook用户的隐私信息,所以这时,审核员都在和同事亲切地聊天。笔者看到墙上贴着那些激励的海报,其中有一个口号是“广泛的同理心”,还有一个则是Facebook首席运营官Sheryl Sandberg的名言,“当你不再害怕时,你会做什么?”

    那么,考虑两方面的声音,Facebook这种模式是否合理?记者在参观时遇到的每一个人都对员工表示了深切的关心,在这个系统中,他们似乎已经尽己所能地为员工付出。Facebook自豪的是,它给所有代理公司的薪酬,都超出了最低工资的20%,并且提供全面的医疗保障福利,还有明显优于呼叫中心行业(call center industry)的心理健康资源。

    虽然这种外包审核模式也为Twitter、Google、YouTube等大型科技公司所应用,除了节省成本,还可以迅速扩展到不同语言环境的新市场。但问题在于,这种模式将内容审核中较为特殊的言论和安全等关键问题,都交给了审核员个人来负担,好像他们仅仅是在商场处理顾客打来的服务电话一样。

    并且,Facebook并不愿意让外界知道是“人”在负责这项工作,Facebook宁愿谈论它在人工智能方面的进展,也不愿意冒险承认其对人工审核员的依赖能够逐日减少?!悸羌际跸拗?,和人类语言无限的复杂性,这一天也非常遥远。

    与此同时,这些内容审核员是拥有数十亿用户的平台的第一反应者,他们承担的是现代社会中一项非常关键的职能,但薪酬却不到许多一线工作者的一半。审核员们尽可能长时间地从事这项工作,当他们离职时,保密协议会确保他们退回到阴影之下更加遥远的地方。

    对于这些审核员来说,他们似乎从来没有在Facebook工作过——严格来说,也确实是这样的。

    声明:本文转载自第三方媒体,如需转载,请联系版权方授权转载。协助申请

    相关文章

    相关热点

    查看更多
    ?
  • 传统书法中的“意象” 2019-10-13
  • C919首飞机组技术支持团队:和大飞机一起舞动青春 2019-10-13
  • 《归去来》:青年一代 在温柔的撕裂中觉醒 2019-10-13
  • 在党的十九大精神指引下做好新时代党史工作 2019-10-11
  • 成都多家“悠游堂”关门停业 顾客会员卡退不了款 2019-10-11
  • 【长沙天气】最新长沙今天天气,实时提供长沙气温、空气质量、24小时天气预报、生活指数查询 2019-10-10
  • 秦皇岛开发区组织学生举行集体入团仪式(图) 2019-10-10
  • 专家:干细胞应用前景广阔 有望治愈世纪顽症 2019-10-09
  • 商务部:中国吸收外资形势稳中向好 2019-10-02
  • 5月问政报告:302条留言有回复 环保教育问题投诉增多 2019-10-02
  • 崇尚英雄 精忠报国——我们家的报国故事 2019-10-01
  • 【北京丰泰康宏车型报价】北京丰泰康宏综合店车型价格 2019-09-30
  • 《十五贯》救活昆曲之秘辛 2019-09-26
  • 卡瓦尼中柱 希门尼斯绝杀球 乌拉圭1 2019-09-26
  • 如何像皇帝、老佛爷那样避个暑? 2019-09-25
  • 重庆欢乐生肖免费计划 最热门捕鱼游戏排行榜 重庆时时彩新版走势图 彩名堂免费计划官网4.0 助赢软件怎么不能用了 金殿国际棋牌 重庆时时有什么规律 人工计划软件 百变QQ安卓版 重庆时时开奖官网公告