Возможно, это не самый «чистый» способ, но я обнаружил кое-что, что действительно работает:
Style myStyle = (Style)this.Resources["myStyle"];
SetterBase sb = myStyle.Setters.FirstOrDefault(z => (z as Setter).Property == Rectangle.FillProperty);
int iSetterIndex = myStyle.Setters.IndexOf(sb);
myStyle.Setters[iSetterIndex] = new Setter(Rectangle.FillProperty, newScrollThumbBackground);
Кажется, я не могу заменить значение установщика, поэтому вместо этого я просто нахожу старый индекс установщика, используя свойство. Затем замените установщик в найденном индексе новым объектом Сеттера.