Основное «уравнение» альфа-комбинации:
alpha * (R1,G1,B1) + (1-alpha) * (R2,G2,B2)
Когда у вас есть три слоя с альфа-каналом, вы фактически комбинируете 4 слоя (четвертый - черный), поэтому окончательный цвет:
alpha1 * (R1,G1,B1) + (1-alpha1) * (
alpha2 * (R2,G2,B2) + (1-alpha2) * (
alpha3 * (R3,G3,B3) + (1-alpha2) * (0,0,0) ) )
При условии, что у вас есть одно и то же изображение на каждом слое, а layer1 - красный канал (G1 = B1 = 0), layer2 - зеленый и layer3 - синий, вы получаете:
(alpha1 * R, (1-alpha1)*alpha2 * G, (1-alpha1)*(1-alpha2)*alpha3 * B)
Для белого пикселя вы можете сделать любой возможный цвет. Для черного пикселя вы не можете сделать ничего, кроме черного. Для любого другого пикселя вы ограничены значениями R, G и B.
Скажем, вы хотите достичь (Rd, Gd, Bd) в пикселе, где текущий цвет (R, G, B), тогда вам нужно будет выбрать:
alpha1 = Rd/R
alpha2 = Gd/(G*(1-alpha1))
alpha3 = Bd/(B*(1-alpha1)*(1-alpha2))
Проблема в том, что альфа обычно может быть только между 0 и 1. Так, например, если Rd> R, вы ничего не можете сделать.
Вы можете добиться большего успеха, если сможете управлять функцией наложения (например, в Photoshop).