Как я могу использовать альфа-смешение, когда мне не нужно думать о цвете фона наложенной текстуры?
Вы не можете; Ваша функция смешивания включает в себя цвет фона, потому что на самом деле это не может быть "фон". Вы рендерите несколько объектов в текстуру, поэтому цвет фона может фактически быть ранее отображенным объектом.
Ваша лучшая ставка - минимизировать влияние. Нет особой необходимости, чтобы цвет фона был белым. Просто сделай это черным. Это не заставит артефакты исчезнуть; надеюсь, это сделает его менее заметным.
Простой факт заключается в том, что смешивание в графических картах просто не предназначено для того, чтобы можно было выполнять те виды композитинга, которые вы делаете. Это работает лучше всего, когда то, что вы смешиваете, непрозрачно. Даже если между непрозрачной поверхностью и объектом рендеринга есть слои прозрачности, это все равно работает.
Но если фон на самом деле прозрачный, без полностью непрозрачного цвета, математика просто перестает работать. Вы получите артефакты; вопрос в том, насколько они будут заметны.
Если у вас есть доступ к более сложному оборудованию, вы можете использовать некоторые программные методы наложения шейдеров. Но это повлияет на производительность.