Подсчитать количество вхождений шаблона в файл (даже в одной строке)

Question

При поиске количества вхождений строки в файле я обычно использую:

grep pattern file | wc -l

Однако, это находит только одно вхождение в строке из-за того, как работает grep. Как я могу искать, сколько раз строка появляется в файле, независимо от того, находятся ли они в одной или разных строках?

Кроме того, что, если я ищу шаблон регулярного выражения, а не простую строку? Как я могу их посчитать или, что еще лучше, напечатать каждое совпадение на новой строке?

Answer 1

Чтобы сосчитать все вхождения, используйте -o.Попробуйте это:

echo afoobarfoobar | grep -o foo | wc -l

И man grep конечно (:

Обновление

Некоторые предлагают использовать просто grep -co foo вместо grep -o foo | wc -l.

Не.

Этот ярлык работает не во всех случаях. Страница руководства гласит:

-c print a count of matching lines

Разница в этих подходах показана ниже:

1.

$ echo afoobarfoobar | grep -oc foo
1

Как только совпадение найдено в строке в строке (a{foo}barfoobar), поиск прекращается. Была проверена только одна строка, и она совпала, поэтому вывод 1. На самом деле -o здесь игнорируется, и вы можете просто использовать grep -c.

2.

$ echo afoobarfoobar | grep -o foo
foo
foo

$ echo afoobarfoobar | grep -o foo | wc -l
2

В строке найдено два совпадения (a{foo}bar{foo}bar), потому чтомы явно просили найти каждое вхождение (-o). Каждый случай печатается в отдельной строке, а wc -l просто подсчитывает количество строк в выводе.

Answer 2

Попробуйте это:

grep "string to search for" FileNameToSearch | cut -d ":" -f 4 | sort -n | uniq -c

Пример:

grep "SMTP connect from unknown" maillog | cut -d ":" -f 4 | sort -n | uniq -c
  6  SMTP connect from unknown [188.190.118.90]
 54  SMTP connect from unknown [62.193.131.114]
  3  SMTP connect from unknown [91.222.51.253]

Answer 3

Запоздалый пост:
Используйте шаблон регулярного выражения поиска в качестве разделителя записей (RS) в awk
Это позволяет вашему регулярному выражению охватывать \n -ограниченные строки (если вам это нужно).

printf 'X \n moo X\n XX\n' | 
   awk -vRS='X[^X]*X' 'END{print (NR<2?0:NR-1)}'

Answer 4

Ripgrep , который является быстрой альтернативой grep, только что ввел флаг --count-matches, позволяющий считать каждое совпадение в версии 0.9 (я использую приведенный выше пример соответствует):

> echo afoobarfoobar | rg --count foo
1
> echo afoobarfoobar | rg --count-matches foo
2

Как указано в OP, ripgrep также допускает использование регулярных выражений (--regexp <PATTERN>). Также он может печатать каждое (строковое) совпадение на отдельной строке:

> echo -e "line1foo\nline2afoobarfoobar" | rg foo
line1foo
line2afoobarfoobar

Answer 5

Взломайте цветовую функцию grep и посчитайте, сколько цветных меток она напечатает:

echo -e "a\nb  b b\nc\ndef\nb e brb\nr" \
| GREP_COLOR="033" grep --color=always  b \
| perl -e 'undef $/; $_=<>; s/\n//g; s/\x1b\x5b\x30\x33\x33/\n/g; print $_' \
| wc -l