法国穆斯林信仰理事会 (CFCM) 宣布起诉 Facebook 和 YouTube，称这些社交媒体平台通过托管新西兰基督城大屠杀的流媒体视频片段煽动暴力。
社交媒体服务正在迅速删除继续分享该视频的用户发布的视频。 但是，在创建允许此类令人厌恶的行为在全球范围内共享的技术时，Facebook 和 YouTube 是否有理由对此负责？
CFCM 是一个非营利组织，成立于 2003 年，旨在帮助法国政府更好地代表穆斯林社区。 CFCM 伊斯兰恐惧症监测部门主席阿卜杜拉·泽克里 (Abdallah Zekri) 表示，CFCM 已在法国对这两家社交媒体公司提起正式法律诉讼。
另一个倡导团体新西兰伊斯兰协会联合会（FIANZ）也表达了类似的担忧：
路透社报道FIANZ 发言人安瓦尔·加尼 (Anwar Ghani) 在针对 Facebook 的一份声明中表示：“他们彻底失败了，这是一个正在寻找观众的人……你是他选择宣传自己和他的令人发指的罪行的平台。”
3 月 15 日，新西兰两座清真寺发生反穆斯林仇恨犯罪，一名枪手杀死了 50 人，并在 Facebook 上录制了一段 17 分钟的视频直播死亡事件。 随后这段视频被下载并在互联网上重新发布。 作为主要的社交视频共享网站，YouTube 是重新上传视频版本的主要来源之一。
Facebook 和 YouTube 做得足够了吗？
Facebook已声明攻击发生后的 24 小时内，它删除了“全球 150 万个有关攻击的视频”，其中“超过 120 万个上传被阻止”。 然而，批评人士称，尽管 Facebook 采取了行动，但仍能在 Facebook 上找到副本。 在 YouTube 上，视频被举报为至少八小时尽管 YouTube 努力将其删除，但事件发生后立即发布。
值得注意的是，Facebook 使用了“技术与人的结合”删除违规内容。 Facebook 和 YouTube 拥有数十亿观众，面临着规模问题。 他们根本无法使用最安全的解决方案，即完全由人类策展人，而必须在一定程度上依赖算法。
YouTube 在攻击发生后的几个小时内以每秒一个的速度识别并删除了上传的视频。 YouTube 的人工智能检测工具被上传者愚弄了，他们添加了水印、调整了剪辑大小或动画，以便对原始片段进行足够的更改以使其能够通过。 YouTube 首席产品官尼尔·莫汉 (Neal Mohan) 表示：“这一事件表明，尤其是像这样的病毒视频，还有更多工作要做。”谈到该事件。
https://twitter.com/sheeraf/status/1106402124311613441
他们并不是唯一面临审核决定的社交网络：Reddit禁止两个热门子版块、r/watchpeopledie 和 r/gore，于 3 月 15 日因上传基督城视频副本而发生。
推动更好的节制
最近揭露 Facebook 的内容审核者来自 The Verge 的详细信息表明 Facebook 可能没有在这个问题上投入足够的资源（版主每年的收入仅为 28,800 美元，而且他们在离职后出现的“类似 PTSD 的症状”也没有得到任何支持），甚至对穆斯林表现出不敏感其调解团队的信仰（The Verge 报道称，两名穆斯林员工被告知他们不能在每天九分钟的“健康时间”期间祈祷）。
在一封公开信中，国土安全部主席批评了四家主要科技公司在枪击事件发生后没有采取足够的措施来删除暴力恐怖内容，其中包括 Twitter 和微软，以及 Facebook 和 YouTube。
“你必须做得更好，”众议员本尼·G·汤普森写道。 “从最近国内外可怕的大规模暴力和大规模暴力企图受挫的模式可以清楚地看出，这不仅仅是一个美国问题，而且是一个全球问题。 你们的公司必须优先考虑用资源和注意力来应对这些有毒和暴力的意识形态。 如果你不愿意这样做，国会必须考虑制定政策，确保恐怖主义内容不会在你的平台上传播——包括研究其他国家树立的榜样。”
新西兰对此事件的反应似乎与 CFCM 的观点一致，即主持该视频正在煽动暴力。 新西兰的回应不仅包括迅速颁布“禁止所有军用半自动武器”，但它也包括在里面一名枪击嫌疑人发表的 74 页宣言，因为它“宣扬谋杀和恐怖主义”。
社交媒体平台如何处理责任
过去几年，社交媒体巨头在解决各种内容审核问题上取得了长足的进步。 YouTube 尤其是通过以下方式处理阴谋论：试图降低误导性镜头的排名并于二月份开始取消倡导反对疫苗的视频的货币化。
大约在同一时间，YouTube 面临着另一个问题——有关“软核恋童癖团伙”的报道导致 YouTube阻止评论以儿童为主角的视频。 最后，YouTube删除了第二个频道已被禁止的阴谋论者亚历克斯·琼斯（Alex Jones）使用了该内容，琼斯在该视频上上传了一段视频，声称基督城枪击事件是一次“假旗”袭击。
政府也越来越多地指责社交媒体缺乏社会同理心。 A最近的英国政府报告注意到社交媒体的使用与心理健康或自尊问题之间存在相关性。 Facebook 在压制令人不安和暴力的视频方面失败了受到批评过去，YouTube 也是如此。
为什么 Facebook 和 YouTube 一直面临审核失败的问题？ 最重要的是，在大型科技公司，内容的审核仅次于销售数据和广告的核心使命。 这需要从根本上改变才能解决问题。 如果确实如此，它会缓慢地发生，而且只是由于来自政府和用户的更大压力。
由于其规模，社交媒体平台在管理在线内容方面面临着前所未有的挑战。 公众的监督，无论是来自美国代表还是来自法国穆斯林倡导团体，仍在不断加强。
