Функция "Вы имели в виду" в базе данных словаря

Question

У меня есть таблица строк ~ 300.000; который включает в себя технические условия; запрашивается с использованием индексов PHP и MySQL + FULLTEXT. Но когда я искал неправильно набранный термин; например "гиперпекст"; естественно не дает результатов.

Мне нужно «компенсировать» небольшие ошибки записи и получить ближайшую запись из базы данных. Как я могу выполнить такую ​​функцию? Я знаю (на самом деле, узнал сегодня) о алгоритмах расстояния Левенштейна, алгоритмах Soundex и Metaphone, но в настоящее время не имею единой идеи реализовать это для запросов к базе данных.

С уважением. (Извините за мой плохой английский, я стараюсь изо всех сил)

Answer 1

См. Эту статью, чтобы узнать, как реализовать расстояние Левенштейна в хранимой функции MySQL .

Для потомков автор предлагает следующее:

CREATE FUNCTION LEVENSHTEIN (s1 VARCHAR(255), s2 VARCHAR(255))
  RETURNS INT
    DETERMINISTIC
      BEGIN
        DECLARE s1_len, s2_len, i, j, c, c_temp, cost INT;
        DECLARE s1_char CHAR;
        DECLARE cv0, cv1 VARBINARY(256);
        SET s1_len = CHAR_LENGTH(s1), s2_len = CHAR_LENGTH(s2), cv1 = 0x00, j = 1, i = 1, c = 0;
        IF s1 = s2 THEN
          RETURN 0;
        ELSEIF s1_len = 0 THEN
          RETURN s2_len;
        ELSEIF s2_len = 0 THEN
          RETURN s1_len;
        ELSE
          WHILE j <= s2_len DO
            SET cv1 = CONCAT(cv1, UNHEX(HEX(j))), j = j + 1;
          END WHILE;
          WHILE i <= s1_len DO
            SET s1_char = SUBSTRING(s1, i, 1), c = i, cv0 = UNHEX(HEX(i)), j = 1;
            WHILE j <= s2_len DO
                SET c = c + 1;
                IF s1_char = SUBSTRING(s2, j, 1) THEN SET cost = 0; ELSE SET cost = 1; END IF;
                SET c_temp = CONV(HEX(SUBSTRING(cv1, j, 1)), 16, 10) + cost;
                IF c > c_temp THEN SET c = c_temp; END IF;
                SET c_temp = CONV(HEX(SUBSTRING(cv1, j+1, 1)), 16, 10) + 1;
                IF c > c_temp THEN SET c = c_temp; END IF;
                SET cv0 = CONCAT(cv0, UNHEX(HEX(c))), j = j + 1;
            END WHILE;
            SET cv1 = cv0, i = i + 1;
          END WHILE;
        END IF;
        RETURN c;
      END

Он также предоставляет вспомогательный метод LEVENSHTEIN_RATIO, который будет оценивать соотношение различных / общих символов, а не прямое расстояние редактирования. Например, если это 60%, тогда три пятых символов в исходном слове отличаются от целевого слова.

CREATE FUNCTION LEVENSHTEIN_RATIO (s1 VARCHAR(255), s2 VARCHAR(255))
  RETURNS INT
    DETERMINISTIC
      BEGIN
        DECLARE s1_len, s2_len, max_len INT;
        SET s1_len = LENGTH(s1), s2_len = LENGTH(s2);
        IF s1_len > s2_len THEN SET max_len = s1_len; ELSE SET max_len = s2_len; END IF;
        RETURN ROUND((1 - LEVENSHTEIN(s1, s2) / max_len) * 100);
      END

Answer 2

Из комментариев http://dev.mysql.com/doc/refman/5.0/en/udf-compiling.html

Теперь я загружаю пакет из хранилища mysql udf. http://empyrean.lib.ndsu.nodak.edu/~nem/mysql/

wget http://empyrean.lib.ndsu.nodak.edu/~nem/mysql/udf/dludf.cgi?ckey=28

ll

tar -xzvf dludf.cgi\?ckey\=28

gcc -shared -o libmysqllevenshtein.so mysqllevenshtein.cc -I/usr/include/mysql/

mv libmysqllevenshtein.so /usr/lib

mysql -uroot -pPASS

mysql> use DATABASE

mysql> CREATE FUNCTION levenshtein RETURNS INT SONAME 'libmysqllevenshtein.so';

mysql> select levenshtein(w1.word,w2.word) as dist from word w1, word w2 where ETC........... order by dist asc limit  0,10;

Answer 3

Я предлагаю вам сгенерировать опечатку вариантов ввода запроса.

т.е. hyperpext> {hyperpeext, hipertext, ...} и т. д.

Одним из них обязательно должно быть правильное написание (особенно для распространенных орфографических ошибок)

Способ определения наиболее вероятного совпадения заключается в поиске каждого из них в индексе, который сообщает вам периодичность документа этого термина. (имеет смысл?)

Answer 4

Почему бы не добавить столбец таблицы для хранения слова в его альтернативной (например, Soundex) форме? таким образом, если ваш первый SELECT не находит точное соответствие, вы можете выполнить второй поиск, чтобы найти соответствующие альтернативные формы.

Хитрость заключается в том, чтобы закодировать каждое слово так, чтобы варианты с ошибками в конечном итоге были преобразованы в одну и ту же альтернативную форму.