Происходит то, что AppStore ожидает чисто квадратное изображение 512x512. Затем он маскирует его на закругленные углы, а затем автоматически добавляет тень.
Если вы хотите, чтобы у него была определенная граница, например, то, что вы спроектировали, вам нужно точно соответствовать их округлению.
Если вы ищете вокруг. есть доступные шаблоны PSD, которые помогут вам разработать его (т. е. они имеют точную маску, которую использует itunes).
Вот пример: http://www.pixelresort.com/blog/app-icon-template/