“坏话”过滤器

时间:2008-08-23 19:17:34

标签: list dictionary profanity

不是很技术,但是......我必须在我们正在开发的新网站中实施一个坏词过滤器。所以我需要一个“好的”坏词列表来为我的数据库提供...任何提示/方向?用google I found this来看一下,这是一个开始,但仅此而已。

是的,我知道这种过滤器很容易被逃脱......但客户端将是客户端! :-)

该网站将不得不过滤掉英语和意大利语单词,但对于意大利语,我可以让我的同事帮我提供社区建立的“parolacce”列表:-) - 一封电子邮件即可。

感谢您的帮助。

9 个答案:

答案 0 :(得分:54)

谨防clbuttic mistakes

  

“苹果公司犯下了强迫他们有远见的错误 - 我的意思是,看看NeXT一直在做什么!”

     

嗯。 “clbuttic”。

     

谷歌“clbuttic” - 成千上万的点击!

     

有人把他的汽车称为“clbuttic”。

     

有“Clbuttic Steam Engine”留言板。

     

韦伯斯特的字典 - 没有帮助。

     

嗯。这可能是什么?

     

提示:那些对其正则表达式脚本做出假设的人将会是   当他们重复这个错误的时候,他们会感到尴尬。

答案 1 :(得分:38)

我没有看到任何指定的语言,但你可以将它用于PHP,它会为每个输入的作品生成一个RegEx,这样即使是故意的错误拼写(即@ss,i3itch)也会被捕获。

<?php

/**
 * @author unkwntech@unkwndesign.com
 **/

if($_GET['act'] == 'do')
 {
    $pattern['a'] = '/[a]/'; $replace['a'] = '[a A @]';
    $pattern['b'] = '/[b]/'; $replace['b'] = '[b B I3 l3 i3]';
    $pattern['c'] = '/[c]/'; $replace['c'] = '(?:[c C (]|[k K])';
    $pattern['d'] = '/[d]/'; $replace['d'] = '[d D]';
    $pattern['e'] = '/[e]/'; $replace['e'] = '[e E 3]';
    $pattern['f'] = '/[f]/'; $replace['f'] = '(?:[f F]|[ph pH Ph PH])';
    $pattern['g'] = '/[g]/'; $replace['g'] = '[g G 6]';
    $pattern['h'] = '/[h]/'; $replace['h'] = '[h H]';
    $pattern['i'] = '/[i]/'; $replace['i'] = '[i I l ! 1]';
    $pattern['j'] = '/[j]/'; $replace['j'] = '[j J]';
    $pattern['k'] = '/[k]/'; $replace['k'] = '(?:[c C (]|[k K])';
    $pattern['l'] = '/[l]/'; $replace['l'] = '[l L 1 ! i]';
    $pattern['m'] = '/[m]/'; $replace['m'] = '[m M]';
    $pattern['n'] = '/[n]/'; $replace['n'] = '[n N]';
    $pattern['o'] = '/[o]/'; $replace['o'] = '[o O 0]';
    $pattern['p'] = '/[p]/'; $replace['p'] = '[p P]';
    $pattern['q'] = '/[q]/'; $replace['q'] = '[q Q 9]';
    $pattern['r'] = '/[r]/'; $replace['r'] = '[r R]';
    $pattern['s'] = '/[s]/'; $replace['s'] = '[s S $ 5]';
    $pattern['t'] = '/[t]/'; $replace['t'] = '[t T 7]';
    $pattern['u'] = '/[u]/'; $replace['u'] = '[u U v V]';
    $pattern['v'] = '/[v]/'; $replace['v'] = '[v V u U]';
    $pattern['w'] = '/[w]/'; $replace['w'] = '[w W vv VV]';
    $pattern['x'] = '/[x]/'; $replace['x'] = '[x X]';
    $pattern['y'] = '/[y]/'; $replace['y'] = '[y Y]';
    $pattern['z'] = '/[z]/'; $replace['z'] = '[z Z 2]';
    $word = str_split(strtolower($_POST['word']));
    $i=0;
    while($i < count($word))
     {
        if(!is_numeric($word[$i]))
         {
            if($word[$i] != ' ' || count($word[$i]) < '1')
             {
                $word[$i] = preg_replace($pattern[$word[$i]], $replace[$word[$i]], $word[$i]);
             }
         }
        $i++;
     }
    //$word = "/" . implode('', $word) . "/";
    echo implode('', $word);
 }

if($_GET['act'] == 'list')
 {
    $link = mysql_connect('localhost', 'username', 'password', '1');
    mysql_select_db('peoples');
    $sql = "SELECT word FROM filters";
    $result = mysql_query($sql, $link);
    $i=0;
    while($i < mysql_num_rows($result))
     {
        echo mysql_result($result, $i, 'word') . "<br />";
        $i++;
     }
     echo '<hr>';
 }
?>
<html>
    <head>
        <title>RegEx Generator</title>
    </head>
    <body>
        <form action='badword.php?act=do' method='post'>
            Word: <input type='text' name='word' /><br />
            <input type='submit' value='Generate' />
        </form>
        <a href="badword.php?act=list">List Words</a>
    </body>
</html>

答案 2 :(得分:35)

Shutterstock有一个Github仓库,其list of bad words用于过滤。

您可以在此处查看:https://github.com/shutterstock/List-of-Dirty-Naughty-Obscene-and-Otherwise-Bad-Words

答案 3 :(得分:7)

如果有人需要API,Google目前会提供错误的字词。

http://www.wdyl.com/profanity?q=naughtyword

{
response: "false"
}

更新:Google现已删除此服务。

答案 4 :(得分:4)

我会说,只要删除帖子就会发现它们,并阻止那些对帖子过于明确的用户。你可以在不使用任何脏话的情况下说非常令人反感的事情。如果你阻止单词ass(又名驴),那么人们只需键入$$或/ \ 55,或者他们需要键入的任何其他内容以通过过滤器。

答案 5 :(得分:4)

关于Clbuttic错误的

+1,我认为“坏词”过滤器扫描前导和尾随空格(例如“屁股”)非常重要,而不仅仅是精确的字符串,这样我们就不会像clbuttic,clbuttes,buttert,buttess等词。

答案 6 :(得分:2)

Wikipedia ClueBot有一个错误的文字过滤器,请阅读其来源。

http://en.wikipedia.org/wiki/User:ClueBot/Source#Score_list

答案 7 :(得分:1)

你总是可以说服客户让一个用户会话只是不断发布咒骂,并提供一个简单的解决方案,将它们添加到系统中。这是一项很多工作,但它可能更能代表社区。

答案 8 :(得分:-3)

在研究这个主题时,我确定所需要的不仅仅是一个可以任意替换的列表。我已经构建了一个Web服务,可以让您确定所需的“清洁度”级别。它还努力识别误报 - 即一个词在一个上下文中可能不好而在其他上下文中不是。 看看http://filterlanguage.com