Две мысли: во-первых, ваш размер может быть больше, чем возможные диапазоны для значения. Кажется, я вспомнил, что читал, что реализация Open GL ES на самом деле должна поддерживать только значение 1. Я думаю, что iPhone может поддерживать значения, отличные от 1, но 100 может быть вне его диапазона.
Вы также можете проверить, включен ли glLineSmooth и, если нет, отключить его. Но я не думаю, что это проблема здесь.