Посмотрите на:
Товар -> Запасы -> Максимально допустимое количество в корзине
Система -> Конфигурация -> Инвентарь -> Максимальное количество, разрешенное в корзине
Взгляните на Настройте Magento, используя Event / Observer .
События, которые вы можете использовать, например: checkout_cart_update_items_before
и checkout_cart_product_add_after
Также я бы посоветовал посмотреть: /app/code/core/Mage/Checkout/Model/Cart.php
для других событий, которые могут быть полезны.
В этом файле вы также найдете код:
$this->getCheckoutSession()->addError(
Mage::helper('checkout')->__('Some of the requested products are unavailable.')
);
Что вы можете использовать для отображения сообщения об ошибке клиенту.