Ваш код в порядке.Вы уверены, что this.paper
действительно указывает на бумагу Рафаэля?попробуйте с console.log(this.paper)
и посмотрите, является ли это экземпляром Raphael.
Это работает для меня:
var paper = Raphael("paper", 300, 300);
var s = paper.set();
s.push(paper.rect(10,10,100,100));
s.push(paper.rect(10,10,100,100));
s.splice(0,1);