Токенизация строк с использованием регулярных выражений в Javascript

Question

Предположим, у меня есть длинная строка, содержащая переводы строки и табуляции как:

var x = "This is a long string.\n\t This is another one on next line.";

Так как же мы можем разбить эту строку на токены, используя регулярное выражение?

Я не хочу использовать .split(' '), потому что я хочу изучать регулярное выражение Javascript.

Более сложная строка может быть такой:

var y = "This @is a #long $string. Alright, lets split this.";

Теперь я хочу извлечь из этой строки только действительные слова без специальных символов и знаков препинания, т. Е. Я хочу эти:

var xwords = ["This", "is", "a", "long", "string", "This", "is", "another", "one", "on", "next", "line"];

var ywords = ["This", "is", "a", "long", "string", "Alright", "lets", "split", "this"];

Answer 1

Вот jsfiddle пример того, что вы спросили: http://jsfiddle.net/ayezutov/BjXw5/1/

В основном код очень прост:

var y = "This @is a #long $string. Alright, lets split this.";
var regex = /[^\s]+/g; // This is "multiple not space characters, which should be searched not once in string"

var match = y.match(regex);
for (var i = 0; i<match.length; i++)
{
    document.write(match[i]);
    document.write('<br>');
}

UPDATE : В основном вы можете расширить список символов-разделителей: http://jsfiddle.net/ayezutov/BjXw5/2/

var regex = /[^\s\.,!?]+/g;

ОБНОВЛЕНИЕ 2: Только буквы все время: http://jsfiddle.net/ayezutov/BjXw5/3/

var regex = /\w+/g;

Answer 2

exec может перебирать совпадения для удаления несловесных (\ W) символов.

var A= [], str= "This @is a #long $string. Alright, let's split this.",
rx=/\W*([a-zA-Z][a-zA-Z']*)(\W+|$)/g, words;

while((words= rx.exec(str))!= null){
    A.push(words[1]);
}
A.join(', ')

/*  returned value: (String)
This, is, a, long, string, Alright, let's, split, this
*/

Answer 3

Используйте \s+ для токенизации строки.

Answer 4

var words = y.split(/[^A-Za-z0-9]+/);

Answer 5

Вот решение, использующее группы регулярных выражений для токенизации текста с использованием различных типов токенов.

Вы можете проверить код здесь https://jsfiddle.net/u3mvca6q/5/

/*
Basic Regex explanation:
/                   Regex start
(\w+)               First group, words     \w means ASCII letter with \w     + means 1 or more letters
|                   or
(,|!)               Second group, punctuation
|                   or
(\s)                Third group, white spaces
/                   Regex end
g                   "global", enables looping over the string to capture one element at a time

Regex result:
result[0] : default group : any match
result[1] : group1 : words
result[2] : group2 : punctuation , !
result[3] : group3 : whitespace
*/
var basicRegex = /(\w+)|(,|!)|(\s)/g;

/*
Advanced Regex explanation:
[a-zA-Z\u0080-\u00FF] instead of \w     Supports some Unicode letters instead of ASCII letters only. Find Unicode ranges here https://apps.timwhitlock.info/js/regex

(\.\.\.|\.|,|!|\?)                      Identify ellipsis (...) and points as separate entities

You can improve it by adding ranges for special punctuation and so on
*/
var advancedRegex = /([a-zA-Z\u0080-\u00FF]+)|(\.\.\.|\.|,|!|\?)|(\s)/g;

var basicString = "Hello, this is a random message!";
var advancedString = "Et en français ? Avec des caractères spéciaux ... With one point at the end.";

console.log("------------------");
var result = null;
do {
    result = basicRegex.exec(basicString)
    console.log(result);
} while(result != null)

console.log("------------------");
var result = null;
do {
    result = advancedRegex.exec(advancedString)
    console.log(result);
} while(result != null)

/*
Output:
Array [ "Hello",        "Hello",        undefined,  undefined ]
Array [ ",",            undefined,      ",",        undefined ]
Array [ " ",            undefined,      undefined,  " "       ]
Array [ "this",         "this",         undefined,  undefined ]
Array [ " ",            undefined,      undefined,  " "       ]
Array [ "is",           "is",           undefined,  undefined ]
Array [ " ",            undefined,      undefined,  " "       ]
Array [ "a",            "a",            undefined,  undefined ]
Array [ " ",            undefined,      undefined,  " "       ]
Array [ "random",       "random",       undefined,  undefined ]
Array [ " ",            undefined,      undefined,  " "       ]
Array [ "message",      "message",      undefined,  undefined ]
Array [ "!",            undefined,      "!",        undefined ]
null
*/

Answer 6

Чтобы извлечь только слова, мы используем символ \w.Будет ли это совпадать с символами Unicode или нет, зависит от реализации, и вы можете использовать эту ссылку , чтобы увидеть, как обстоят дела с вашим языком / библиотекой.

См. Ответ Александра Езутова(обновление 2) о том, как применить это в выражении.