互联网提供了建设性对话与合作的潜力

互联网提供了建设性对话与合作的潜力，但在线对话往往会沦为人身攻击。希望能够避免这些攻击，康奈尔大学的研究人员已经创建了一个模型来预测哪些民事谈话可能会发生毒性转变。

在对维基百科上的数百个交易所进行分析后，研究人员开发了一个计算机程序，用于扫描红旗 - 例如重复，直接提问和在前两个帖子中使用“你”这个词 - 来预测最初的民事谈话会出错。

研究发现，早期的交流包括问候，表达感激之情，诸如“似乎”的对冲以及“我”和“我们”这两个词更可能保持文明。

“有数百万次这些讨论，你不可能现场监控它们。这个系统可能会帮助人类主持人更好地引导他们的注意力，”信息科学助理教授兼共同作者克里斯蒂安·丹尼斯库 - 尼库列斯库 - 米齐尔说。文章“对话失败：发现会话失败的早期迹象”。

“我们人类对如何检测某些事情是否变坏有直觉，但这只是一种怀疑。我们不能百分之百地做到这一点。因此，我们想知道我们是否可以建立系统来复制这种直觉，因为人类既昂贵又忙碌，我们认为这是计算机有可能超越人类的问题，“Danescu-Niculescu-Mizil说。

计算机模型也考虑了Google的Perspective，这是一种用于评估“毒性”的机器学习工具，大约65%的时间是正确的。人类在72%的时间里正确猜对了。

人们可以测试自己的能力来猜测哪些对话会在在线测验中脱轨。

该研究分析了1,270个对话，这些对话是从民间开始但堕落为个人攻击，从1600万个维基百科“谈话”页面中的5000万个对话中挑选出来，编辑们讨论文章或其他问题。他们成对地检查了交换，比较了每个在同一个主题上取得成功的会话，所以结果并没有受到政治等敏感主题的影响。

该论文与康奈尔大学博士共同撰写。信息科学专业学生Justine Zhang; 博士 计算机科学专业的学生Jonathan P. Chang和Yiqing Hua; Jigsaw的Lucas Dixon和Nithum Thain; 维基媒体基金会的Dario Taraborelli将于7月15日至20日在澳大利亚墨尔本举行的计算语言学协会年会上发表演讲。

研究人员希望这种模式可用于拯救风险对话并改善在线对话，而不是禁止特定用户或审查某些主题。一些在线海报，例如非母语英语使用者，可能没有意识到他们可能被认为是攻击性的，这种系统的警告可以帮助他们自我调整。

“如果我有找到人身攻击的工具，那已经太晚了，因为攻击已经发生，人们已经看到了，”Chang说。“但是，如果你理解这次谈话朝着一个糟糕的方向前进并采取行动，那么这可能会让这个地方更加欢迎。”