Ваш пробег может отличаться, но я только что установил Octave с помощью homebrew
$ brew install homebrew
... и это действительно сработало. Однажды это не удалось, и мне пришлось вручную brew install gfortran, но потом все сошлось красиво.
Я пробовал это год назад, и это было очень больно, и я в итоге использовал такую версию .app, как вы (и сделал псевдоним, точно такой же, как у вас), но теперь установка из источника, похоже отлично работал Кроме того, он дает вам больше возможностей для построения графиков, кроме gnuplot.