与AI时代格格不入,鉴黄为何要靠人海战术?

时间:2020-01-11 来源: 湖北在线

近日,脸书CEO马克扎克伯格(Mark Zuckerberg)宣布,公司将增加3000名内容审计员来审核平台上的内容,包括最近的谋杀、自杀和强奸在线视频。毫不奇怪,技术巨头雇佣了大量的人来进行内容审计。谷歌、百度、腾讯、新浪和今天的头条都设置了类似的帖子。内容审计对于内容平台尤其重要。如果处理不当,可能会影响整个公司的前景。在科技如此发达的今天,为什么机器不能完全取代传统的手工审计?巨人队仍然需要大量的战术向黄河学习。“内容平台”的阿基琉斯脚跟今年4月,一名泰国男子在脸书上杀死了自己的女儿,然后自杀。这段视频在脸书上发布了将近24小时,许多用户看到婴儿被杀。其中一个视频被播放了超过25万次,并被其他用户上传到其他视频网站。

色情、暴力、犯罪,这些不良内容在脸书上出现了很多次,这让脸书备受争议。今年3月,一名15岁的美国女孩遭到几名男子的性侵犯,并在脸书上直播。这段视频吸引了至少40万人的注意力。有人说这样的图片让人感到害怕和不安,“看完之后我晚上睡不着”。

事件发生后,脸书团队意识到了问题的严重性。脸书CEO扎克伯格(Zuckerberg)公开表示,脸书将尽一切努力避免此类内容的重复出现,并表示脸书要成为一个健康安全的在线社区还有很多工作要做。

扩大内容审计员的数量正是脸书为此所做的。此前,脸书在全球有4500名员工负责内容审计。这种扩展将使审计过程更加及时和准确。这些员工主要负责处理尚未立即审查或删除的不良内容。

在社交媒体时代,每天都有大量用户不断地制作内容。对于该平台来说,除了补贴内容制作者,它还需要在内容审计成本上投入更多。然而,尽管如此,该平台仍不遗余力地在人力和财力上做好内容审查工作。一方面,有很多不好的内容,这将使用户感到厌恶,减少使用产品的频率,甚至远离产品。坏硬币赶走好硬币,不利于平台的长期发展。另一方面,发布令人反感的内容可能会导致违反国家法律,导致对平台的控制甚至关闭。今年早些时候,ZANK,一个著名的同性恋社区,因为它的色情直播而被整体关闭。

在中国,许多英美烟草平台都有内容审计员的职位。以新浪微博为例。新浪微博是中国最大的社交平台之一。至于内容,新浪微博仍然主要采用人工评论。除了色情和暴力内容,该平台还将关注敏感的政治和宗教内容。然而,仍然有各种各样的小冲突或不良内容在网上流传。对内容的审查和控制已经成为阿基里斯所有主要内容平台的脚跟。从初创公司到科技巨头,没有人敢放松这种神经。除非你别有用心地利用色情来吸引用户,否则它肯定不会持续太久。

绝望的内容审计

2013年,百度、腾讯、金山等十多家互联网公司组成“安全联盟”,以20万的高薪招聘“首席色情评估师”。在工作中,我可以看电影并获得高薪。网民开玩笑说,“这简直不合理”。

事实上,内容审计并不像想象的那么简单。以脸书为例。脸书现有的审计员每天都要处理大量的教资会内容。他们需要审查不良内容,包括色情、暴力、犯罪和其他方面。他们在判断内容时会承受很大的压力。他们必须区分普通儿童照片和儿童色情照片,还必须区分这是朋友之间的玩笑还是冒犯性内容。它们必须仔细分类,内容必须在特定的上下文中有所区别。没有适当的审计,脸谱网很可能被指控侵犯公民的言论自由。

审计员的工作将对个人生活产生巨大的负面影响。在长时间回顾儿童色情作品后,他们会怀疑那些接触过儿童的人。看太多的p

今年1月,微软在线安全团队成员对微软提起诉讼。因为他们被迫每天看大量的恐怖、色情和谋杀的图片和视频,他们会有心理后遗症,“他们经常失眠和做噩梦,他们的大脑里充满了图片和视频。”然而,微软官员表示,他们不同意这两名前员工的意见。公司将每月为这些员工提供一些心理支持。

网上招聘“内容审计员”信息

同样的情况在中国很常见,尤其是在内容审计领域。许多公司会将内容审计移交给外部公司。这些公司雇佣大量的人来审核文本、图片、视频和其他内容,审计人员每天需要进行数百甚至更多的信息审核。这些审计员的月薪在3000到5000英镑之间,他们大多数住在中国的二线和三线城市。路透社此前的一份报告曾称新浪微博的工作是“高压、无望的工作”,33,354人每小时阅读至少3,000条微博。许多人离开是因为他们压力太大,看不到改进的余地。

人工智能时代的审计尴尬

随着科学技术的发展,媒体和企业家们不断描绘人工智能时代到来的激动人心的场景。然而,到目前为止,虽然机器学习已经不断提高了系统对内容类型的识别和判断概率。然而,对于内容审查,技术巨头仍然主要依靠人力,这确实是一个特殊的尴尬。

机器在很长一段时间内无法完全取代人工审核。例如,谷歌有1万多名员工作为搜索结果的评估者。这个行业领先的技术巨头仍然需要雇佣大量劳动力来改进其产品,这可能解释了人工智能的局限性。机器仍然难以模拟普通用户的使用体验,难以理解内容背后的含义,也难以做出准确的“人类判断”。

此外,目前机器审计主要用于文本内容。如果机器检测到包含敏感词的内容,它会将其删除或向用户发出警告。然而,对于图片和视频的检查,机器不能提取像文本内容这样的关键字,这使得检查变得困难。在上面提到的脸谱网儿童谋杀案中,机器不能根据视频图像识别内容的性质。此时,手工审计将发挥其不可替代的作用。

对于像脸谱这样拥有20亿用户的大型社交网站来说,除了人工审计,还有另外两个辅助审计渠道。一方面,脸谱网指导用户使用报告功能。用户可以向平台报告色情视频、图片和其他不良信息。收到信息后,网站管理员将完成后续处理,如删除地图或标题。另一方面,脸谱网也在测试人工智能,希望进一步采用机械和人工审计的方法。例如,如果以前删除过裸照,当再次上传时会自动删除。

在中国,手工机器审计目前是技术公司常用的审计方法。以快手为例。快手有一个由数百人组成的内容审查团队。每一个快速手动短视频和直播的发布都必须经过多次审查,如机器和手册。同时,许多第三方公司提供内容审计服务,如万象优图、网易益登、图普科技、阿里绿旺等产品,可以协助平台进行机器审计。优酷、荔枝调频、英科直播、美牌等平台都使用这些第三方服务。

虽然人工智能取得了很大进步,但它正在逐渐改变人们的生活方式,提高社会效率。但是它离完全解放劳动力的时代还很远。对于处于内容审计底层的大量员工来说,他们每天都在技术巨头和海量信息之间徘徊。也许人工智能将来可以完全解放他们。但这真的发生在他们失业的那一天。

频道热点
  1. 作为以区块链为基础技术的新一代内容价值平台,《五条》始终以平台与用户之间的收入分享为目标,并提出了“
  2. 新华社长春8月23日电第十二届中国东北亚博览会暨第十届东北亚合作高级别论坛开幕式23日在吉林长春举行。中?
  3. 冬天过后,天气很冷。作为最活跃的负重关节,膝盖特别容易感冒。俗话说,“人冻住腿,猪冻住嘴。”当下半身
  4. 作为以区块链为基础技术的新一代内容价值平台,《五条》始终以平台与用户之间的收入分享为目标,并提出了“
  5. 作为以区块链为基础技术的新一代内容价值平台,《五条》始终以平台与用户之间的收入分享为目标,并提出了“
  6.     日前,美女主播田甜的一组时尚旗袍照全网曝光,画面中田甜典雅优美,一袭苏绣旗袍加身,一头手推波
  7. 这是一个雷声大雨点小的行业。目前,虽然移动互联网被广泛使用,但仍然有孤立的信息孤岛在空中。在过去几年
  8. 新华社长春8月23日电第十二届中国东北亚博览会暨第十届东北亚合作高级别论坛开幕式23日在吉林长春举行。中?
  9. 这是一个雷声大雨点小的行业。目前,虽然移动互联网被广泛使用,但仍然有孤立的信息孤岛在空中。在过去几年
  10. 作为以区块链为基础技术的新一代内容价值平台,《五条》始终以平台与用户之间的收入分享为目标,并提出了“
新闻排行
  1. [建材网]目前,市场上最流行的两个词无非是“环保”和“个性”。毫不夸张地说,这两个词已经成为当前市场的

    [建材网]目前,市场上最流行的两个词无非是“环保”和“个性”。毫不夸张地说,这两个词已经成为当前市场的...

  2. 原创杨建勇我想分享3天前文/杨建勇中国已成为世界第二大公共云市场。IDC最近发布的全球公共云服务市场报告显示,2018年全球公共云IaaS市场同比增长45%,达到360亿美元。值得一提的是,中国公共

    原创杨建勇我想分享3天前文/杨建勇中国已成为世界第二大公共云市场。IDC最近发布的全球公共云服务市场报告显示,2018年全球公共云IaaS市场同比增长45%,达到360亿美元。值得一提的是,中国公共...

  3. 瑜伽百科全书昨天我想分享文字:梅根|绘画:五三三在各种各样的零散时期,每个人都更愿意拿手机,低头,默?

    瑜伽百科全书昨天我想分享文字:梅根|绘画:五三三在各种各样的零散时期,每个人都更愿意拿手机,低头,默?...

  4. 60岁的倪萍年轻更年轻,蓝色衬衫搭配开衫舞女团舞,吹吻可爱和女孩当我提到倪萍时,每个人都不应该对过去超

    60岁的倪萍年轻更年轻,蓝色衬衫搭配开衫舞女团舞,吹吻可爱和女孩当我提到倪萍时,每个人都不应该对过去超...

  5. 最近,奇欧巴卡罗文在红迪论坛上发布了自己的多功能游戏机,内置任天堂Switch、个人电脑、AvidaShieldTV和?

    最近,奇欧巴卡罗文在红迪论坛上发布了自己的多功能游戏机,内置任天堂Switch、个人电脑、AvidaShieldTV和?...

  6. 最近,famitong发布了大量的《仁王2》Fami截图和一些角色设置图。发布的图片展示了一些主要角色和一些怪物?

    最近,famitong发布了大量的《仁王2》Fami截图和一些角色设置图。发布的图片展示了一些主要角色和一些怪物?...

  7. 17:31:48快乐追求娱乐首先是谢娜。每个人都知道,在怀孕期间,她放下工作,开始在家里抬起轮胎。后来,在她的双胞胎女儿出生后,她立即开始工作。当她第一次回到工作岗位时,她立刻开始工作,给每个人带来

    17:31:48快乐追求娱乐首先是谢娜。每个人都知道,在怀孕期间,她放下工作,开始在家里抬起轮胎。后来,在她的双胞胎女儿出生后,她立即开始工作。当她第一次回到工作岗位时,她立刻开始工作,给每个人带来...

  8. 7月23日下午,携程网首席执行官孙洁最近在女子大学会议上发表了主题为《中国职场女性如何向成功“更前一步?

    7月23日下午,携程网首席执行官孙洁最近在女子大学会议上发表了主题为《中国职场女性如何向成功“更前一步?...

  9. ?下午5点,在广东中医药大学深圳医院心内科重症监护室(CCU),梁亮帮助儿子倒出袋子,靠在椅子上在床边,拉着头靠在墙上。一,他的头严重撞到墙上醒来。他太困了。在过去的三年里,梁素嫂在他儿子梁吉乐的床旁

    ?下午5点,在广东中医药大学深圳医院心内科重症监护室(CCU),梁亮帮助儿子倒出袋子,靠在椅子上在床边,拉着头靠在墙上。一,他的头严重撞到墙上醒来。他太困了。在过去的三年里,梁素嫂在他儿子梁吉乐的床旁...

  10. 中国共青团工作组联手阅读了一组100个高质量的知识产权图书馆39分钟前整体FF91最新照片曝光没有重大变化59?

    中国共青团工作组联手阅读了一组100个高质量的知识产权图书馆39分钟前整体FF91最新照片曝光没有重大变化59?...

友情链接