Проблема заключается во вложенном предложении корреляции. Я думаю, вам это не нужно:
UPDATE order_product op
SET amount = COALESCE(op.amount_origin + (SELECT sum(ope.amount_to_change)
FROM order_product_edits ope
WHERE ope.order_product_id = op.order_product_id
), 0
)
WHERE op.id = NEW.order_product_id;
Я удивлен, что значением по умолчанию является 0
, а не op.amount_origin
.