Вы почти с вашим кодом. Попробуйте вместо этого:
SELECT *
FROM Customer
WHERE ((in_customerId IS NULL OR in_customerId = 0) OR
(in_customerId IS NOT NULL AND in_customerId <> 0 AND customerId = in_customerId))
Это вернет всех клиентов, у которых параметр in_customerId
равен NULL.
В случае, если in_customerId
имеет значение, он вернет только совпадающие строки.