Это может быть то, что вы ищете:
\begin{equation}
P(i,j) = \sum_{x=|N(V_i) \cap V_j|}^{\min\{|V_j|, |N(V_i)|}
\frac{\displaystyle \binom{|V_j|}{x} \binom{|V - V_j|}{|N(V_i)| - x}}
{\displaystyle \binom{|V|}{|N(V_i)|}}
\end{equation}
Подумал, что было бы неплохо добавить ссылку:
Руководство по LaTeX2e, Kopka & Daly, 1995
Раздел 5.5 Тонкая настройка математики
5.5.2 Выбор размера шрифта в формулах
В моем издании он находится на стр. 141-142, но его нет в наличии на Amazon. Ближайший интернет-указатель, который я могу найти только сейчас, - здесь