Не встраивайте ресурсы такого размера в исполняемый файл.Он не только бомбит компилятор, но и вашу программу.Все, что больше ~ 500 мегабайт, является проблемой для 32-разрядной операционной системы, в адресном пространстве не будет дыры, достаточно большой, чтобы соответствовать ей.Вы можете получить представление о том, как он распределяется между кодом и данными, с помощью утилиты SysInternals VMMap.
Поскольку вы используете CodeDom, вы можете использовать опцию компилятора / linkresource, чтобы сохранить файл вне исполняемого файла.,У вас все еще может быть проблема во время выполнения, но это еще одна проблема.