Самая ранняя доступная версия для Windows - 0.4.0.
Как видно при поиске доступной версии на conda.
$conda search pytorch-cpu -c pytorch
Loading channels: done
# Name Version Build Channel
pytorch-cpu 0.4.0 py35_cpuhe774522_1 pytorch
pytorch-cpu 0.4.0 py36_cpuhe774522_1 pytorch
pytorch-cpu 0.4.1 py35_cpuhe774522_1 pytorch
pytorch-cpu 0.4.1 py36_cpuhe774522_1 pytorch
pytorch-cpu 0.4.1 py37_cpuhe774522_1 pytorch
pytorch-cpu 1.0.0 py3.5_cpu_1 pytorch
pytorch-cpu 1.0.0 py3.6_cpu_1 pytorch
pytorch-cpu 1.0.0 py3.7_cpu_1 pytorch
pytorch-cpu 1.0.1 py3.5_cpu_1 pytorch
pytorch-cpu 1.0.1 py3.6.7_cpu_1 pytorch
pytorch-cpu 1.0.1 py3.6_cpu_1 pytorch
pytorch-cpu 1.0.1 py3.7.1_cpu_1 pytorch
pytorch-cpu 1.0.1 py3.7_cpu_1 pytorch
pytorch-cpu 1.1.0 py3.5_cpu_1 pytorch
pytorch-cpu 1.1.0 py3.6_cpu_1 pytorch
pytorch-cpu 1.1.0 py3.7_cpu_1 pytorch
А на странице релиза версии 0.4.0 https://github.com/pytorch/pytorch/releases/tag/v0.4.0
Если вы хотите использовать версию 0.3.0, я предлагаю вам использовать операционную систему Linux или Mac.