После группировки вы можете применять агрегатные функции, такие как max, к каждой группе. В вашем примере попробуйте:
SELECT albumID, max(reg_count) as max_count
FROM contentnew
GROUP BY albumID
Это будет проецировать каждый идентификатор альбома с max_count в группе. В операторе выбора вы можете использовать только агрегатные функции. Причина, по которой мы можем проецировать (или распечатать) идентификатор альбома, заключается в том, что это столбец, по которому мы сгруппированы.
Следующие комментарии:
SELECT *
FROM contentnew as c1
WHERE c1.reg_count < (
SELECT max(c2.reg_count)
FROM contentnew as c2
WHERE c1.albumID = c2.albumID
GROUP BY c2.albumID)