Так что, к сожалению, мой первоначальный ответ был неверным. Оказывается, когда я создал маску, я установил зеленый на 0, установив ambient occlusion на 0. Из-за этого он обрабатывал все окклюдированные (из окружения). Установка внешней окклюзии на 1 вручную (и добавление полного зеленого на каждую маску впоследствии) устраняет проблему.