Я полагаю, что вы можете установить такое ограничение для людей, которые загружают ваше приложение с компьютера (приложение не будет отображаться в iTunes). Однако, если пользователь просматривает магазин через iDevice, я думаю, что он может найти ваше приложение и, тем не менее, загрузить его.
Достаточно просто указать в описании, что приложение не будет работать с iOS 5.
Или, возможно, вам следует немного разобраться, почему ваше приложение не работает. Обычно проблема не так велика.