• 总网A区要闻--江西频道--人民网 2019-08-19
  • 东莞市教育局:基本判定不符合高考泄题特征 2019-08-16
  • 甘肃天水消防采取四项措施强化官兵心理健康教育工作 2019-08-09
  • 乐智起航 赢在未来 艾美卡特兰乐高主题活动圆满落幕 2019-08-09
  • 跟青岛人逛海边,聊上合 2019-08-07
  • 个税法迎第七次大修 起征点调至每年6万元 2019-08-07
  • 讲政德如何落到实处(专家观点) 2019-08-05
  • 《迷失地铁》 王真儿为角色克服恐水症 2019-08-05
  • 为太原人才新政点赞! 2019-08-02
  • 发展的机遇 合作的平台(国际论坛) 2019-07-29
  • 进口奥迪A4降6.83万 现车极少欢迎抢购 2019-07-29
  • 实现中华民族伟大复兴—似铁齿铜牙的博客—强国博客—人民网 2019-07-22
  • 《超人总动员2》国内定档6月22日 超能一家来袭 2019-07-22
  • 花城看花 广州水上花市热闹迎新年 2019-07-13
  • 5项措施加强公民个人信息保护 2019-07-07
  • 社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

    2019-03-16 10:54 稿源:全媒派  0条评论

    201811151621144309_52.jpg

    图片来源图虫:已授站长之家使用

    香港马会内幕透码 www.cxhae.tw 看完一个陌生人的死亡视频后,惊惧再次席卷了Chloe。

    尽管她已经接受了三周半的训练,试图在那些日复一日出现的仇恨言论、恐怖袭击、色情图像相关的推文面前,为自己筑起足够坚固的防御体系。没有人安慰她,因为这是她的工作日常,也是凤凰城站点为Facebook审核内容的 1000 名审核员的日常。对于世界各地的 15000 名内容审核员来说,这也只是工作中再平常不过的一天。

    内容审核员们隐身于社交平台之后,把自己活成了抵挡违规信息、却同被负面信息所侵蚀的一道盾牌。多的是人诟病社交平台依然存在的负面言论给自己带来的伤害,却很少有人考虑这道在负面信息下首当其冲的盾牌的生存状态。

    The Verge近期推出了有关Facebook内容审核员的专题报道,文章作者采访了代理Facebook内容审核服务的科技公司Cognizant的员工,揭露了他们的心理创伤、管理制度以及审核标准等问题。本期全媒派(ID:quanmeipai)将编译这篇文章,与读者一同了解这群为机器打工的“隐形人”的故事。

    生存背景速写

    隐形、压力与不确定性

    文章所采访的Cognizant的前任或现任员工,其实都和公司签订了保密协议,承诺不去谈论他们负责的内容审核工作。这既是为了?;に敲馐芏阅谌萆蠛瞬宦挠没У娜松砬趾?,也防止他们泄露Facebook用户的隐私。

    但这同样意味着,他们的工作状况不能为人所知,哪怕是身边的亲人朋友,都无法分担他们在工作中所遭遇的孤独、焦虑等心理负担。以及,公司Cognizant和Facebook也会免于为审核员提供的工作待遇是否合理等争议。因此,文章中所出现的相关员工皆为化名,除了Cognizant的副总裁Bob Duncan和Facebook全球合作伙伴运营总监Mark Davidson。 

    不平等的薪资待遇

    相比Facebook正式员工平均 24 万美元的年薪,这里的内容审核员一年只能拿到 28800 美元的薪水。

    2017 年,扎克伯格宣布扩大Facebook的“社区运营”团队,新增 4500 名内容审核员,到 2018 年底,Facebook已有 3 万多名员工从事安全方面的工作,其中约一半是内容审核员。审核员中包含全职员工,但Facebook更多依赖外包合同工来完成审核工作——他们遍及全球各个地域与各个时区,并且关键在于,用人成本极低。尽管扎克伯格曾经警告投资者,安全投资会降低Facebook的盈利能力,但最近一个季度其利润仍然同比增长61%.

    微观管理压力

    不平等的不仅是薪资,还有不为外界所知的工作环境与工作氛围。

    这一天,内容审核员Miguel在早上 7 点来上班,他是即将填满这一工作地点的 300 名员工之一,部门占据了凤凰城办公园区的两层空间。Miguel首先经过了由安全人员严格把守的入口,这是为了警惕心怀不满的前任雇员和Facebook用户的报复性行为。再接着,他朝储物柜走去。员工储物柜数量不够,所以开始有一些人把东西放在柜子里过夜,以确保第二天还能有储物柜可用。储物柜所在是一条狭窄的走廊,休息时间,走廊里会挤满员工。

    Miguel和其他人一样,把手机也放在了储物柜中,这是为了?;acebook用户的隐私。如下图所示,除了手机,有记录用户信息风险的书写工具和纸张也被禁止携带,甚至包括口香糖包装纸。洗手液之类的小型物品,需要放在透明塑料袋里,以便管理者查验。

    公司禁止携带的物品

    为了适应每天 4 班的轮班制,以及内部较高的员工流动率,大多数人不会被安排在Cognizant所说的“生产区(the production floor)”的固定办公桌上。Miguel找到了一个开放使用的工作站,登陆名为“单一评审工具(Single Review Tool,简称SRT)”的软件,点击“内容审阅”按钮,开始了他一天的工作。

    随机性高但容错率低的审核标准

    Miguel在审核内容时,需要恪守一套以“准确度(accuracy)”命名的衡量标准,这一标准由Facebook员工与外包人员审核结果的一致性所决定。

    具体来说,Miguel需要对每条内容完成两个测试:是否违反社区规则,以及违反规则的原因,如果这条内容确实违反规则应当删除,但Miguel选择了错误的原因,这也会影响他的准确度评分。在Miguel每周所做出的约 1500 条内容的审核决定中,Facebook会随机选择50~ 60 条进行二次审核,首先交由被称为QA(质量保证)的内部员工审核,再由Facebook正式员工审核QA的决策所形成的数据集,生成准确度得分。

    Miguel对这一标准十分不以为然,“准确度通过一致性来判断,如果我和二次审核人员都赞同贩卖毒品,那么‘这一内容不属于违规内容’的审核决定也会是正确的。准确度不过是一个谎言?!?/strong>

    不仅如此,审核员达到准确度指标的困难还在于,他们要综合考虑各种给定的衡量标准。内容审核标准由 4 个方面构成:

    首先是Facebook的公共社区规则,这包括两部分,公开发布的规则与篇幅更长的内部指南;

    其次是对这些文件中已知问题的额外评论和指导,长度为1. 5 万字;

    第三是审核员之间互相讨论得到的共识,尤其是在枪击案等突发事件之中,但有时会出现错误共识,管理人员就需要四处来回解释正确的决定。

    内容衡量标准的 4 个主要来源

    第四个方面处理起来最复杂,来自Facebook的内部信息发布工具。虽然官方政策调整每两周的周三公布一次,但对于进展中突发事件的补充性规则却时刻接踵而至,这些标准汇总于Facebook企业版软件Workplace之中,和Facebook一样,会呈现出根据热度由算法进行排序的信息流,管理人员发布的规定常常相互矛盾,且不按时序出现,而如果审核员看到了过时的信息,就会出现准确度失误。“有时候,感觉像是Facebook自己开发了产品跟他们作对”。

    即便在这样复杂且随机的审核标准下,他们的审核误差也被限制在很小的范围之内,就像是玩一场高风险高难度的游戏,起始分数为 100 分,如果你失误到 95 分,就会面临离职的风险。不过,Miguel有权利向判定他为错误的QA提起投诉,让QA同意他的决定。在这种情况下,QA也成了压力的承担者。一位叫Randy的QA就经常被审核员威胁,要他改变审核决定,Randy不得已开始带枪上班——他一直到辞职都没有扣动扳机,但他的焦虑却挥之不去。

    夹缝中的休息与排遣

    到了Miguel的休息时间,他点击浏览器插件打卡,以便公司记录自己准备离开办公桌。Facebook总监Davidson表示,这是行业惯例,公司需要追踪自己的员工在哪里。

    Miguel一共有两个为时 15 分钟的短休息,和 30 分钟的午餐时间。在休息室,他常常发现洗手间排起长队,数百名员工共用一个小便池和两个男厕隔间,以及三个女厕隔间。公司允许员工使用另一层的洗手间,但Miguel不愿意来回花费几分钟,当他上完厕所,随着人群挤到储物柜前时,还有五分钟的时间看一会儿手机,再回到办公桌前。

    Miguel和其它员工一样,每天有 9 分钟的“健康时间”,管理层设置用意在于,当员工感到精神受到创伤时,可以利用这段时间离开办公桌休息。一些审核员会趁这段时间排队人少去洗手间——而管理层禁止了这一做法,认为这是对“健康时间”政策的误解。

    “不要用‘健康时间’去厕所”

    员工被提倡的做法是,有时间要通过拨打咨询师的电话来应对工作压力,或者选择瑜伽等其他放松活动。但对于审核员来说,这些资源并不足够,他们用工作期间的性行为、毒品和侮辱性质的笑话来缓解压力。前审核员Sara说,他们不允许和亲友谈论自己的工作,这使同事之间更加亲近,但不是合作带来的正向情感,而是一同发泄的创伤性牵绊。

    审核员Li说,“我甚至没办法告诉你,我和多少人一起抽过大麻(文章补充:医用大麻在当地合法),我想到这个,是真的觉得难过。我们嗑到嗨,然后回去工作。试想一下,全世界最大的社交平台,审核员上班时间一边做这些事情,一边还要接着审核内容……”

    无处安放的心理创伤

    于是,Randy在上班时随身佩枪,Li默默容忍同事为了发泄对他讲的种族歧视笑话,Chloe在观看完一段谋杀视频之后崩溃,哪怕离职之后都无法摆脱相似情境触发的创伤症状……凝视深渊太久,他们觉得自己也将被深渊吞噬。

    “我们所做的事,

    让灵魂变得黑暗”

    在上文提到的为了缓解创伤症状而出现的歧视性笑话、毒品滥用和创伤性情感联系之外,他们还开始渐渐接受一些极端观点,陷入阴谋论与怀疑主义之中,而这些观点恰恰是他们要审核的内容。

    比如,一位QA经常和同事讨论他认为“地球是平的”,并且竭力说服其他人也相信这一观点。已经离职的Randy也认为,这份工作改变了他的世界观。在看了那么多声称9/ 11 并非恐怖袭击的视频之后,他开始相信了。去年的公园枪击案发生后,审核员最初对袭击非常震惊,但随着更多的阴谋论内容被发布到Facebook与Instagram上,一些同事的态度开始动摇。审核员们开始在上班时间疯狂搜索相关阴谋论内容,而完全忘记了自己的审核立场。

    “做这份工作逃不过PTSD”

    几位审核员说,他们经历了继发性创伤压力(secondarytraumatic stress)的症状,感到焦虑、失眠、孤独和分裂感,这是一种由观察他人的创伤经历而导致的心理障碍,症状与创伤后应激障碍(PTSD)相同,原本常见于医生、心理咨询师与社会工作者。

    继发性创伤压力的症状:焦虑、失眠、孤独、精神分裂

    Chloe在离职后的几个月出现了创伤症状。电影中的刺伤场景引发了她对于审核时期暴力视频的回忆;有一次她睡在沙发上,突然听到开枪的声音,原来是家人在观看暴力视频节目,她当即无法忍受,几近抓狂。Randy在离职之后,对刀产生了一种天然的恐惧,他原本喜欢烹饪,但现在回到厨房看到刀,对他来说则难以忍受。他在接受采访时说,“从事这项工作后,不患上某种急性应激障碍或是PTSD是不可能的?!?/strong>

    “当你不再害怕时,

    你会做什么”

    一些管理者让笔者看到了另外他们所采取的解决措施。报道前一周,总监Davidson提到,Facebook开始对一部分审核员进行测试,以衡量他们所需要的“弹性(resiliency)”指标,即从创伤内容中恢复过来继续工作的能力。他说,公司希望尽快将测试拓展到全球所有的审核员。

    而在笔者被邀请实地访问的前一天,Cognizant的办公园区里贴上了新的激励海报。办公区域比记者的想象要丰富得多,墙上用彩灯装饰的图表描绘了月度活动,看起来有种夏令营和老人活动中心的混搭风:瑜伽、宠物疗法、冥想,还有“周三请穿粉红色”的活动。记者去的当天是“随机善行周”的末尾,这一周,员工被鼓励在彩色卡片上写下鼓舞的话语,并用一块糖果把他们贴在墙上。

    在和管理者坐在一起的群体采访中,一些现任员工们都承认这项工作的挑战性,但表示他们感觉到安全、被支持,并且认为这项工作能够带来更好的薪酬与机会——如果无法进入Facebook,在Cognizant内部也好。政策经理Brad告诉笔者,他和同事们审查的大部分内容为良性,并提醒笔者不要夸大其所带来的心理健康风险。公司内部的心理咨询师则表示,他们每天都和每个员工联系,他们认为现场咨询、热线电话和员工援助计划的结合足以保障审核员的健康状态。

    笔者参观结束,离开的时候发现公司内部审核员几乎都为 20 多岁或者 30 岁左右,当他经过,所有内容审核工作都要暂停,确保他不会看到任何Facebook用户的隐私信息,所以这时,审核员都在和同事亲切地聊天。笔者看到墙上贴着那些激励的海报,其中有一个口号是“广泛的同理心”,还有一个则是Facebook首席运营官Sheryl Sandberg的名言,“当你不再害怕时,你会做什么?”

    那么,考虑两方面的声音,Facebook这种模式是否合理?记者在参观时遇到的每一个人都对员工表示了深切的关心,在这个系统中,他们似乎已经尽己所能地为员工付出。Facebook自豪的是,它给所有代理公司的薪酬,都超出了最低工资的20%,并且提供全面的医疗保障福利,还有明显优于呼叫中心行业(call center industry)的心理健康资源。

    虽然这种外包审核模式也为Twitter、Google、YouTube等大型科技公司所应用,除了节省成本,还可以迅速扩展到不同语言环境的新市场。但问题在于,这种模式将内容审核中较为特殊的言论和安全等关键问题,都交给了审核员个人来负担,好像他们仅仅是在商场处理顾客打来的服务电话一样。

    并且,Facebook并不愿意让外界知道是“人”在负责这项工作,Facebook宁愿谈论它在人工智能方面的进展,也不愿意冒险承认其对人工审核员的依赖能够逐日减少?!悸羌际跸拗?,和人类语言无限的复杂性,这一天也非常遥远。

    与此同时,这些内容审核员是拥有数十亿用户的平台的第一反应者,他们承担的是现代社会中一项非常关键的职能,但薪酬却不到许多一线工作者的一半。审核员们尽可能长时间地从事这项工作,当他们离职时,保密协议会确保他们退回到阴影之下更加遥远的地方。

    对于这些审核员来说,他们似乎从来没有在Facebook工作过——严格来说,也确实是这样的。

    声明:本文转载自第三方媒体,如需转载,请联系版权方授权转载。协助申请

    相关文章

    相关热点

    查看更多
    ?
  • 总网A区要闻--江西频道--人民网 2019-08-19
  • 东莞市教育局:基本判定不符合高考泄题特征 2019-08-16
  • 甘肃天水消防采取四项措施强化官兵心理健康教育工作 2019-08-09
  • 乐智起航 赢在未来 艾美卡特兰乐高主题活动圆满落幕 2019-08-09
  • 跟青岛人逛海边,聊上合 2019-08-07
  • 个税法迎第七次大修 起征点调至每年6万元 2019-08-07
  • 讲政德如何落到实处(专家观点) 2019-08-05
  • 《迷失地铁》 王真儿为角色克服恐水症 2019-08-05
  • 为太原人才新政点赞! 2019-08-02
  • 发展的机遇 合作的平台(国际论坛) 2019-07-29
  • 进口奥迪A4降6.83万 现车极少欢迎抢购 2019-07-29
  • 实现中华民族伟大复兴—似铁齿铜牙的博客—强国博客—人民网 2019-07-22
  • 《超人总动员2》国内定档6月22日 超能一家来袭 2019-07-22
  • 花城看花 广州水上花市热闹迎新年 2019-07-13
  • 5项措施加强公民个人信息保护 2019-07-07
  • 快乐时时b盘 巴蜀麻将哪个版本 15选5走势图表近50期 安徽麻将玩法 金鹰全天pk10计划 云速vnp官网 千里马计划软件时时 网络彩票是否软件控制 吉林时时计划软件手机版下载 江西时时为何停了