Искусственный интеллект и фильтры чата - PullRequest
3 голосов
/ 22 октября 2010

Есть ли фильтры чата, которые работают в зависимости от контекста?Я говорю об использовании новых технологий, таких как искусственный интеллект и обработка естественного языка, чтобы определить, например, было ли слово грубым или нет, в зависимости от контекста .

Ответы [ 2 ]

1 голос
/ 22 октября 2010

Самый простой способ - просто использовать регулярное выражение для горстки самых оскорбительных слов.

Существуют услуги, предлагаемые онлайн, которые позволят вам сделать запрос со словом, чтобы узнать, не является ли это профаном. Это хорошие варианты, если вы хотите быть действительно уверенными.

К сожалению, нет никакой ставки на любой из них. Ненормативная лексика одного человека - общий разговор другого (см. Santorum. Очень очень вульгарно, но большинство не оскорблено.) И у каждой группы есть свой собственный язык птицы. В Америке баллон не так уж и плох, но в Британии он довольно плох.

Вы могли бы сделать грубую ошибку. Даже если вы все устраните, я все равно смогу написать ужасно оскорбительную историю, используя самый добрый язык.

Короткий черный список или одна из служб - это путь, в зависимости от желаемого уровня фильтрации.

0 голосов
/ 26 января 2014

Это выглядит интересно http://pottymouthfilter.com, Это, к сожалению, коммерческий продукт, но, по крайней мере, кто-то работает над этим.

...