Вы должны создать 2 переменные, одну для подсчета группы и другую для подсчета записи в группе.
Первая переменная автоматически создается iReport для вас и будет называться 'groupName_COUNT'
Вторая переменная должна считать идентификатор записи или аналогичный и сбрасываться при каждом перезапуске группы.
Пример:
Name: recordCount
Variable class: java.lang.Long
Reset type: Group
Reset group: groupName
Increment type: none
Variable expression: $F{recordIdField}
Наконец, чтобы показать номер поля, вы можете сделать что-то вроде $V{groupName_COUNT}+"."+$V{recordCount}