используйте sum(quantity)
, поскольку вы используете агрегированную функцию, вы должны использовать ее также агрегированным образом, в противном случае ее необходимо добавить в группу по пункту
SELECT order_id, COUNT(*) AS num_items, SUM(item_price - discount_amount) *
sum(quantity) AS order_total, MAX(discount_amount) AS max_item_discount
FROM order_items
GROUP BY order_id
HAVING MAX(discount_amount)>500
ORDER BY order_id ASC