Я не уверен, что понимаю ваш вопрос, но постараюсь помочь.
Если вы говорите, что вам не нужен b.txt в initialbranch, вы можете определить спецификацию ветки следующим образом:
initialbranch/a.txt secondbranch/a.txt
mainline/b.txt secondbranch/b.txt
Таким образом, когда вы интегрируете, используя спецификацию ветви "secondbranch", ваши изменения в secondbranch будут перенесены в initialbranch или mainline.
Если вы не хотите передавать изменения непосредственно из второго ветвления в основную линию, то делайте то, что, как вы уже делаете,: интегрируйте b.txt из основной линии в начальную ветвь, затем из начальной ветки во вторую ветвь. Работайте над ним во втором отделении, затем последовательно интегрируйте изменения обратно в исходное и основное.