Docker обычно использует оверлеи (хотя могут использоваться и другие параметры), которые монтируют два каталога друг над другом. overlayfs сама по себе не предоставляет способ сделать доступ доступным без учета регистра, но вы можете попробовать создать каталог /var/lib/docker в файловой системе без учета регистра (например, файловая система JFS с соответствующим форматированием) и посмотреть, работает ли она.
Однако , вы, вероятно, не хотите этого делать. Docker на Linux, как и практически любой другой инструмент Unix, не предназначен для обработки файловых систем без учета регистра, и вы можете столкнуться с различными вещами, которые там ломаются. Большинство дистрибутивов не поддерживают создание нечувствительных к регистру файловых систем, используемых менеджером пакетов, поэтому, если что-то сломается, вам придется самостоятельно это исправить.
Вам будет лучше с набором скриптов изменить сценарии include и сборки для использования только строчных букв или использовать Wine или Windows VM для создания среды, более похожей на Windows.