Это потому, что group by ссылается на основное предложение, а не наоборот (или оба - отношения между ними не являются рекурсивными).
Вы можете сделать это в MySQL без использования подзапроса, но вы должны сгруппировать по значению, объявленному в вашем главном выборе - поэтому ваш первоначальный запрос недопустим, но следующее должно быть:
SELECT CASE state_name
WHEN 'CT' THEN 'New England'
WHEN 'RI' THEN 'New England'
WHEN 'MA' THEN 'New England'
WHEN 'ME' THEN 'New England'
WHEN 'NH' THEN 'New England'
WHEN 'VT' THEN 'New England'
WHEN 'CA' THEN 'West Coast'
WHEN 'OR' THEN 'West Coast'
WHEN 'WA' THEN 'West Coast'
ELSE 'other' END AS region,
SUM(population)
FROM population_us_states
GROUP BY
region;