Shadow DOM реализован только в последних выпусках современных браузеров (только Chrome, Opera и Firefox).
В то время как команда React разработала решение для гораздо большего числа браузеров и более старых выпусков.
Более того, переход на Shadow DOM повлечет за собой множество изменений в архитектуре и философии фреймворка (без ретро-совместимости).
Последнее, я полагаю, команда довольна своей текущей виртуальной DOM.