Вот как работает целочисленная арифметика. 1/4
обрезается до нуля.
Вы можете получить правильный результат (округленный до ближайшего целого числа), умножив сначала:
(quartiles * numstore.size()) / quadro
Я использовал скобки, чтобы прояснить порядок оценки - вы можете их опустить, если хотите.
Обратите внимание, что при больших значениях вам нужно быть осторожным, чтобы умножение не переполнялось - возможно, путем преобразования в более широкий тип, или в число с плавающей запятой, или путем тщательного умножения и деления на меньшие коэффициенты. Это, вероятно, не проблема в этом случае.