MMO聊天的亵渎过滤器

我们正在使用Smartfox服务器开发MMO。目标受众是7 -12岁的孩子。

此MMO中有一个全局聊天选项。
在用户输入文字后，无论他在文本框中键入什么内容，都会在其按下回车键后显示在用户头像旁边。

我们想从此聊天中过滤出辱骂性语言/亵渎行为。
我们可以捕获聊天并阅读文本。问题在于获取亵渎本身的清单。

我们的问题是

1. 哪里会详尽列出所有亵渎行为？
2. 在类似情况下采用什么方法过滤掉这些？

别。

过滤器不起作用。至少，只有过滤器不起作用。白名单，黑名单无关紧要。这些都不会阻止孩子互相骚扰。进行此工作的唯一方法是不过滤聊天记录，而是为句子提供大的构建基块。例如，一个孩子可能选择“您想...”，然后会弹出“去...”和“交易...”的选项。选择“转到...”将显示游戏中的位置列表。

在他们14岁的白名单测试对象决定将[他的]长颈长颈鹿粘在[他们的]蓬松的白色兔子上之后，迪士尼为他们的MMO“卡通城”选择了这种方法。简而言之，您不能将足够多的单词列入黑名单或白名单以防止滥用。

话虽如此，如果我要设计一个孩子的MMO，我实际上会实施严格的黑名单过滤器，但这只是第二道防线。您的第一道防线应始终是主持人和举报滥用行为的能力。我会对列入黑名单的单词进行加权，使每个用户都能获得他们试图亵渎的秘密分数。

任何尝试绕过您的过滤器的用户都有可能首先触发它。较明显的亵渎（相对于晦涩或过时的亵渎）或更反复的亵渎尝试，将它们列入主持人的监视列表或某种禁止列表。这样，主持人可以将精力集中在似乎试图骚扰他人的用户上，而不是浪费他们的时间阅读仍然无辜的孩子的评论。

因应人们说给未提供过滤器，我认为你必须提供一个过滤器，没有别的原因，相对于您的目标受众的父母护住自己的屁股。只要确保它可以被用户禁用即可。通过实施亵渎过滤器（尽管不完美且完全可选），您可以说您已完成了您期望做的所有事情，以保护年轻观众的敏感性。

通过启用禁用功能，您会阻止用户尝试使用聪明的标点符号或替代功能来规避该功能，因为支持这种语言的用户会立即在自己的计算机上禁用该过滤器，并且早就忘记了某个过滤器的存在。

有了这样的理解，就不必为实现而担心。它不需要是万无一失的（这很好，因为它不能万无一失），但是它应该相对完整并且尽可能不打扰。也就是说，您将不会确保自己没有犯“ 集体错误”。

实现可能非常简单-获取单词列表，然后用星号或类似内容替换列表中找到的所有单词。最好只搜索整个单词。

至于单词列表，这很容易：http : //www.google.com/search?q=profanity+ word+list

请记住，它不一定要包罗万象，而只是代表您为保护孩子而做出的英勇努力。

我将尝试实现允许黑名单和白名单的解决方案，例如，您可以在其中添加“ cunt”到黑名单，在“ scunthorpe”中添加白名单。

我不相信，你可以不断实现故障安全的解决方案，所以我想尝试得到最“流行”的话在你的字典，并使其尽可能容易对新单词添加到列表中。

原因是语言（尤其是英语）在不断发展，并且在适当的情况下数十年来一直没有冒犯性的东西可能会变得令人反感。

尝试尽可能多地使用单词，然后从那里走出去，在人们抱怨时迅速做出反应，并表明这通常是一个问题，我怀疑您会遇到任何问题。

确切了解美国的审查指南是一个好主意：MBNL！（我不是律师！）

正如我评论，过滤所有的攻击性言辞真的很难-但你可以把它周围，并使用白名单的允许的话。进行Google搜索时，对于儿童游戏来说，将他们可以输入的内容限制在列表中似乎很普遍。例如，乐高宇宙使用白名单。

另请参阅：将游戏聊天列入白名单。请注意，可以绕过白名单。没有保证的解决方案。

考虑到它是针对年幼的孩子的，拼写错误可能是一个问题-根据客户端界面的不同，您可能会考虑自动完成单词。当玩家开始输入字母时，请提供可能的单词列表，然后让他们选择正确的单词。

程序员提供了一个答案，描述了一个用于构建亵渎过滤器的系统。他没有详细解释如何实际构建它，但是应该足以实现实施想法。

这是人类和社会设计而非代码可以最好地解决的问题。

详尽列表的最佳来源是游戏中存在的并监控聊天流的现场人员。让人们参与您的游戏，让他们成为您的终极过滤器。

花一些时间研究Club Mergufield背后的Lane Merrifield的想法和理念以及提供服务的方法。这是他在2008年奥斯汀GDC上的演讲的两篇论文。

http://gamasutra.com/php-bin/news_index.php?story=20234

http://www.raphkoster.com/2008/09/15/agdc08-lane-merrifield-at-their-service/

特别是因为您的游戏是针对儿童的，所以它不仅仅是您需要考虑的发誓过滤器。您需要担心的是冒充孩子的人可能有或没有不良动机。您需要向父母保证，他们的孩子是安全的。您需要向孩子保证他们在此方面也很安全。

对于人类来说，另一个好处是他们会理解上下文。您不希望某个孩子说“我妈妈患有乳腺癌”并遭到踢打。

问题的简单解决方案：

1. 从输入中删除所有空格和标点符号。
2. 将《城市词典》中的所有内容都列入黑名单。
3. 将所有同音异形词列入黑名单
4. 将所有可能用作泛滥的内容列入黑名单。
5. 编写软件以了解所剩内容，意图和基调。
6. 从第5步开始，抛弃游戏并以有知觉和全知的创作进入市场。

一些面向儿童的MMO仅将聊天替换为预定义的表情和短语列表，并且根本不允许自由形式的聊天。也许可以将游戏设计为适应这种情况。