Вы можете сделать следующее, сначала выбрать все td с groupId! = 1, а затем выбрать тех, у кого groupId указан из этого набора jQuery:
$('td[groupId!= 1]').filter('[groupId]');
ИМХО, это совершенно логично, тд, которые не имеют groupId, имеют groupId, который не равен 1, таким образом, добавляются в набор результатов. Или поставить его в коде:
var x = {};
typeof x.foo === 'undefined'; //true
x.foo !== 1; //true