% - операция по модулю. a% b целое число делит a на b и возвращает остаток. Таким образом, 3% 5 -> 3 и 7% 5 -> 2.
У вас есть переменная x, которая должна go от 0 до 19. Если вы разделите x на 5, напоминание будет числом в диапазон от 0 до 4.
Для x = 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, ..., x% 5 = 0, 1 , 2, 3, 4, 0, 1, 2, 3, 4, 0, 1, ...
Как видите, остаток повторяет числа от 0 до 4. Это 5 чисел.
Таким образом, хитрость заключается в том, чтобы напечатать новую строку только тогда, когда x% 5 равен 4.
int x = 0;
while (x < 20) {
printf("%d ", x+1);
if (x % 5 == 4)
printf("\n");
x++;
}