Это известная проблема в Dotless:
https://github.com/dotless/dotless/issues/155
В основном исходный код Bootstrap использует функции LESS, которые еще не поддерживаются в используемой вами версии Dotless. Очевидно, что поддержка была добавлена в последний источник, так что вы можете решить эту проблему, скомпилировав Dotless из последнего источника.
Недостаточно загрузить и сослаться на dotless.Core.dll, поскольку бинарные файлы недостаточно обновлены, то есть не содержат новейших функций, необходимых для Bootstrap. Только исходные файлы содержат последние изменения, поэтому вам нужно создать файл dotless.Core.dll, скомпилировав последний источник с помощью Visual Studio. Конечно, эти функции будут включены в загрузку .dll, когда они в следующий раз решат обновить ее.
Dotless создает файл результатов bootstrap.css "на лету". Вы никогда не увидите этот файл на диске, так как он создается путем компиляции файлов .less, когда они запрашиваются через HTTP. Созданный CSS кэшируется только в памяти. Однако вы всегда можете запросить файл .less в вашем браузере и сохранить то, что видите, в файле .css. Это бы сработало, но нет особого смысла делать это, если ваша установка Dotless работает правильно.
Однако, если вам нужен только файл bootstrap.css с вашими настроенными значениями, вы также можете воспользоваться этим онлайн-инструментом на веб-сайте Bootstrap. Это позволит вам изменить значения переменных и загрузить полученный CSS.