Насколько я понимаю, эффект "рыбий глаз" - это в основном проекция на полусферу, верно? Чтобы изменить это, вам нужно использовать уравнения для проецирования полусферы на плоскость. Быстрый поиск показал те уравнения Fisheye Projection , их изменение должно быть простым. Я надеюсь, что это направит вас в правильном направлении.