这篇文章最初是在对话中发表的。这篇文章为Live Science的专家之声：评论与见解贡献了一篇文章。
“Fail at life”。去轰炸你自己吧。
这样的评论，在CNN的一篇关于女性如何看待自己的文章中发现，如今在互联网上很流行，无论是Facebook、Reddit还是新闻网站。这种行为的范围从亵渎和骂人到人身攻击、性骚扰或仇恨言论。
皮尤最近的一项互联网调查发现，10个人中有4人在网上受到过骚扰，而更多的人亲眼目睹过这种行为。恶搞已经变得非常猖獗，以至于一些网站甚至采取了完全删除评论的手段。
许多人认为，恶搞是由一小部分声名狼藉的反社会人士完成的。这一信念不仅在媒体上得到了加强，而且在过去的研究中也得到了加强，这些研究主要集中在采访这些人。一些研究甚至表明巨魔有个人和生物的倾向，比如施虐和寻求过度 *** 的倾向。
，但是如果所有的巨魔不是天生的巨魔呢？如果他们是像你我这样的普通人呢？在我们的研究中，我们发现在一个网络社区中，人们可以在正确的环境下被影响去欺骗他人。通过分析美国有线电视新闻网（CNN）1600万条评论，并进行一项在线控制实验，我们确定了两个能导致普通人产生恶搞的关键因素：
什么能制造恶搞“我们通过一个在线众包平台招募了667名参与者，让他们先参加一个测试，然后阅读一篇文章并参与讨论。每个参与者都看到了同一篇文章，但其中一些人的讨论是从trolls的评论开始的，其他人则看到了中立的评论。在这里，使用标准的社区指南定义了网络恶搞——例如，点名、亵渎、种族主义或骚扰。事先给出的测验也有简单和困难之分。
我们对CNN评论的分析有助于验证和扩展这些实验观察。
影响控制的第一个因素似乎是一个人的情绪。在我们的实验中，处于消极情绪的人更容易开始恶作剧。我们还发现，随着一天一天的时间和一周一天的时间，随着人类自然的情绪模式而起伏。夜深人静时最频繁的是 *** ，早晨最少。在周一，也就是工作周的开始，也会出现情绪低落的高峰。
此外，我们还发现，负面情绪会持续到引发这些情绪的事件之后。假设一个人参加了一个讨论，其他人在讨论中写下了恶搞评论。如果那个人继续参加一个不相关的讨论，他们也更可能在讨论中胡扯。
第二个因素是讨论的上下文。如果讨论以“巨魔评论”开头，那么稍后其他参与者对其进行巨魔评论的可能性是不以“巨魔评论”开头的讨论的两倍。
事实上，这些巨魔评论可以相加。讨论中的评论越多，将来的参与者也越有可能对讨论进行评论。总之，这些结果表明，讨论中的最初评论如何为以后的跟踪创造了一个强有力的、持久的先例。
我们想知道，通过使用这两个因素，我们是否可以预测何时会发生跟踪。使用机器学习算法，我们能够预测一个人是否会在80%的时间内进行恶作剧。
有趣的是，情绪和讨论环境一起是一个比将特定个体识别为恶作剧强得多的恶作剧指标。换言之，拖曳更多的是由人的环境造成的，而不是任何固有的特征巨魔是情境性的，普通人会受到巨魔的影响，这种行为最终会在人与人之间传播。讨论中的一条巨魔评论——也许是由一个在床上醒来的人写的——可能会导致其他参与者的情绪恶化，甚至会导致其他地方更多的巨魔评论。随着这种负面行为的不断传播，如果不加以控制，网络恶搞最终会成为社区的常态。
反击尽管这些结果令人清醒，但有几种方法可以帮助我们为公众讨论创造更好的在线空间。
通过了解导致网络恶搞的原因，我们现在可以更好地预测何时可能发生巨魔。这可以让我们提前发现潜在的有争议的讨论，并提前提醒主持人，他们可以在这些攻击性的情况下进行干预。
机器学习算法也可以比任何人更快地对数百万条帖子进行排序。通过训练计算机识别网络中的网络控制行为，我们可以更快地识别和过滤不需要的内容。
的社会干预也可以减少网络控制。如果我们允许人们收回最近发表的评论，那么我们就可以最大限度地减少发帖时的遗憾。通过优先考虑建设性意见来改变讨论的背景，可以增加人们对礼貌的看法。即使只是把一篇关于社区规则的文章贴在讨论页面的顶部也有帮助，最近在Reddit上进行的一项实验显示，
尽管如此，仍有很多工作要做，以解决控制。了解有组织的欺凌的作用可以限制一些不受欢迎的行为。
的欺凌也可以在严重程度上有所不同，从骂人到有针对性的欺凌，这就需要不同的回答。
区分巨魔评论的影响和作者的意图也是很重要的：巨魔是有意伤害他人，还是只是想表达不同的观点？这有助于将不受欢迎的人与那些只需要帮助交流想法的人区分开来。
当在线讨论破裂时，应该受到责备的不仅仅是反社会者。我们也有过错。很多“巨魔”和我们一样，都是日子不好过的人。了解我们对网上令人振奋和沮丧的对话都负有责任，是进行更有成效的网上讨论的关键。
斯坦福大学的Jure Leskovec也对本 *** 出了贡献。
斯坦福大学计算机科学博士生Justin Cheng；康奈尔大学信息科学助理教授克里斯蒂安·丹内斯库·尼古列斯库·米齐尔和斯坦福大学计算机科学助理教授迈克尔·伯恩斯坦
这篇文章最初是在对话中发表的。阅读原文。“