Вы можете использовать по модулю: B=A(sum(mod(A,1),2)==0,:)
========== РЕДАКТИРОВАТЬ ===================
Редактирование по комментариям, если вы проверяете только целые числа в первом столбце, вам не нужно суммировать результаты: B=A(mod(A(:,1),1)==0,:)
Альтернативные способы будут использовать логические вместо числовых: B=A(all(A==round(A),2),:)
илиесли отмечен только 1-й столбец: B=A(A==round(A(:,1)),:)