Octave ожидает, что в tar-архиве пакета находится один каталог, однако в этом случае также существует дополнительный файл "./._spectutils-3.0.3".
Вам необходимо получить tarball локально , распакуйте архив и создайте его заново без этого файла.
Пример процесса в оболочке bash:
$ wget pkg install http://www.music.helsinki.fi/research/spectutils/spectutils-3.0.3.tgz
$ tar xzvf spectutils-3.0.3.tgz
$ tar czvf spectutils-3.0.3.tgz spectutils-3.0.3
Теперь вы сможете установить локальный файл (при условии, что в октаве текущие настройки выполняются напрямую). где новый тарбол):
pkg install spectutils-3.0.3.tgz