Twitch 将使用机器学习来检测逃避禁令的人

Twitch 正在通过一种新工具进一步努力减少骚扰,该工具使用机器学习来检测可能试图逃避禁令的人。这是该公司打击仇恨袭击等事件的最新成员,在这种情况下,主播的聊天中充斥着发送仇恨信息的巨魔。

新工具称为可疑用户检测,可以将用户识别为“可能”或“可能”逃避流媒体频道禁令的人。支持该工具的机器学习模型通过评估诸如他们的行为和帐户特征等内容来识别潜在的逃避者,并将该信息与已被流媒体频道禁止的帐户进行比较。

来自“可能”逃避者的消息不会发送到聊天室,但主播和他们的模组可以看到它们。主播和模组可以选择监控可能的禁令逃避者,这会将该用户添加到监控列表中,并在用户姓名旁边放置一条消息,注明监控(如下面的 GIF 所示),或禁止他们。“可能的”逃避者的消息将出现在聊天中,但主播/模组也可以选择将这些消息从聊天中屏蔽。

Twitch 表示默认情况下会开启可疑用户检测,但主播可以根据需要调整或关闭该工具。主播和模组也可以手动选择以监控他们怀疑的用户。

Twitch 社区健康产品总监艾莉森·霍夫曼 (Alison Huffman) 在给The Verge 的一份声明中说:“这个工具在很大程度上受到社区反馈的启发,他们需要更好的方法来遏制逃避禁令的人。” “当我们与 mods 谈论他们的痛点时,我们听说很难区分聊天违反其频道规范的内容的用户是有害的重复骚扰者还是只是没有了解该频道的新观众海关呢。因此,我们设计了这个工具来为模组和创作者提供更多关于潜在的禁令逃避者的信息,这样他们就可以在他们的频道内做出更有效、更明智的决定。”