Автор махот здесь. Сообщение об ошибке не идеально (это исправит), но вот что происходит.
Изображение в градациях серого является изображением с плавающей точкой (т.е. img.dtype == numpy.float64
), и вы не можете сохранять изображения с плавающей точкой в формате PNG.
Преобразовать в numpy.uint8
:
mahotas.imsave('test.png', img.astype(numpy.uint8))
и все будет работать как положено.