Вы должны сделать это на всю ширину изображения спрайта. В противном случае это может привести к утечке других изображений или пустому пространству при повторении.
Помните, что повторение действительно небольших фоновых изображений (шириной 1-2 пикселя) может оказать ужасное влияние на производительность - для этого всегда лучше использовать немного большие изображения, поэтому, даже если они будут очень маленькими - это может быть лучше для рендеринга страниц мудрее, чем 1px в ширину.
РЕДАКТИРОВАТЬ: (относительно вашего редактирования)
Если ваш элемент имеет фиксированную высоту, вы можете поместить его на ширину спрайта 100% ширины спрайта с необходимой максимальной высотой элемента. Или, если вы знаете, что его максимальная ширина меньше ширины спрайта, сделайте его прямоугольником с максимальной шириной и высотой вашего элемента.
Если вы не знаете максимальную высоту и хотите поместить ее в самый верх, чтобы градиент стал сплошным, это можно сделать, если вы поместите повторное изображение в самый низ спрайта и поместите его с отрицательным top value background-position: 0px -300px
где 300px - это расстояние от вершины вашего спрайта до верхней части фонового изображения на вашем спрайте.
Посмотрите, как Google позиционировал повторную BG на спрайте: