Вы можете сделать так,
list(itertools.chain.from_iterable((i for i in range(j+1)) for j in range(3)))
# [0, 0, 1, 0, 1, 2]
range(j)
не даст желаемого результата.Вы должны использовать range(j+1)
Вы можете сделать это без использования итератора.
In [58]: list(i for j in range(3) for i in range(j+1))
Out[58]: [0, 0, 1, 0, 1, 2]