Вы не можете заставить SeekBar рисовать большой палец любым другим способом, кроме смещения по горизонтали.
Код, который на самом деле рисует большой палец, находится в AbsSeekBar.onDraw, и там видно, что это просто горизонтальное смещение.
Однако вы можете создать свой собственный виджет, расширяющий ProgressBar, который будет рисовать большим пальцем любым нужным способом (по дуге). Но вам также нужно будет реагировать на прикосновения, чтобы перевести его в линейный диапазон, ожидаемый ProgressBar.