人权组织国际特赦组织的一项开创性研究揭示了推特上针对女性的网络虐待规模。 这项大型研究还发现，有色人种女性成为虐待目标的可能性不成比例。
研究对 2017 年发送给 778 名英国和美国女记者和政客的 20 万多条推文进行了整理，发现了确凿的证据，表明 Twitter 存在性别和种族主义滥用问题。 特别是，研究显示，黑人女性在 Twitter 上遭受虐待的可能性比白人女性高 84%。
国际特赦组织与全球人工智能软件公司 Element AI 合作发现，2017 年期间，向研究中的女性发送了超过 100 万条辱骂性推文，即每 30 秒就有一条。
国际特赦组织关于 Twitter 滥用行为的报告：主要发现
国际特赦组织的研究分析了 228,000 条推文，寻找是否存在辱骂信息（宣扬基于种族、民族、国籍、性取向、性别、宗教、年龄、残疾或严重疾病的暴力的推文）或有问题的信息（伤害性或敌对的推文）的迹象根据 Twitter 自己的指导方针，尤其是在多次重复的情况下，但不像辱骂性推文那么强烈）。
国际特赦组织的辱骂性推文示例之一
国际特赦组织的有问题推文示例之一
国际特赦组织研究的一些主要发现包括：
- 黑人女性在辱骂或有问题的推文中被提及的可能性比白人女性高 84%。
- 有色人种女性收到辱骂性或有问题的推文的可能性比白人女性高 34%。
- 网络虐待跨越了政治领域，右翼和左翼女性受到的虐待程度大致相似。
研究是如何进行的？
该研究由来自 150 个国家的 6,500 多名志愿者进行。 这些志愿者对大约 228,000 条推文进行了分类，将攻击性的推文标记为辱骂性的或有问题的。 这些被称为“巨魔巡逻队”的志愿者总共花费了 2,500 小时分析推文，相当于一个人不间断工作一年半的时间。
国际特赦组织战术研究高级顾问米莱娜·马林 (Milena Marin) 表示：
“在技术专家和数千名志愿者的帮助下，我们建立了世界上最大的有关在线虐待妇女行为的众包数据集。 Troll Patrol 意味着我们有数据支持女性长期以来告诉我们的观点——推特是一个种族主义、厌女症和恐同症基本上不受遏制地滋生的地方。
“推特未能解决这个问题，这意味着它正在导致已经边缘化的声音被压制。”
国际特赦组织还发布了该研究中使用的推文选集。 至少可以说，每 30 秒就会收到这样的辱骂，这个想法发人深省：
推文的图像
国际特赦组织为何开展这项研究？
国际特赦组织一直呼吁 Twitter 清理其平台，并在如何控制平台上的滥用行为方面更加透明。
该组织还希望证明，关于 Twitter 是一个党派平台并审查具有不同政治倾向的用户的指控是错误的。 该研究的结果证实了国际特赦组织的观点，即大多数虐待行为都是种族主义或厌女症，而不是政治性的。
样本中的政客来自美国和英国的各个政治派别。 其中的记者来自美国和英国的各种出版物。 这些包括每日邮报,纽约时报，监护人,太阳,加尔德姆,粉红新闻和布赖特巴特新闻网。
Element AI 则利用该研究的数据集来帮助构建一个机器学习模型，该模型可以自动检测辱骂性推文。
然而，国际特赦组织明确表示，其数据收集和分析并不是试图监管 Twitter 或强迫其删除内容：
“我们要求它更加透明，我们希望巨魔巡逻队的调查结果将迫使它做出改变。 至关重要的是，Twitter 必须开始透明地说明他们到底如何使用机器学习来检测滥用行为，并发布有关他们所依赖的算法的技术信息。”
作为回应，推特要求澄清“有问题”的定义。 它认为，这是“符合保护言论自由并确保政策起草明确且范围狭窄的需要。”
杰克·多尔西（Jack Dorsey）对“言论自由”的盲目尊重再一次让 Twitter 看起来严重脱节。
在 Tech.co 上了解有关社交媒体的更多信息
