Вы должны использовать регулярное выражение, чтобы разделить результат jQuery css на переменные, которые вы ищете.
var result = $('#element').css('text-shadow').match(/(-?\d+px)|(rgb\(.+\))/g)
// result => ['rgb(30, 43, 2)', '-4px', '11px', '8px']
var color = result[0],
y = result[1],
x = result[2],
blur = result[3];
Будет возвращен массив, разбивающий строковое значение text-shadow
на числа с пикселями и значениями rgb. Это может помочь вам в данном конкретном случае, но вам, вероятно, придется поработать над ним еще, чтобы заставить его работать для всех возможных случаев text-shadow
ПРИМЕЧАНИЕ: Значение rgb(...)
является первым совпадением в массиве, потому что именно так Firefox, Chrome, Safari и Opera возвращают его независимо от того, как вы его присваиваете. IE может сделать это по-другому.