Установите инструменты Visual C ++ Build из https://visualstudio.microsoft.com/visual-cpp-build-tools/
Перезагрузите компьютер и попробуйте
pip install mahotas
Если у вас установлен conda, вы можете установить mahotas, используяследующая пара команд:
conda config --add channels conda-forge
conda install mahotas