С помощью этого запроса:
select count(*) count_rows
from table1
where col1=3 or col2=3
group by concat(IF(col1<col2, col1, col2), ',', IF(col1<col2, col2, col1))
вы получите результат 2
.
Замените 3
из запроса в предложении where, если есть другой ввод.
Значение для concat(IF(col1<col2, col1, col2), ',', IF(col1<col2, col2, col1))
будет "2,3"
для записей 1-2, (и "4,5"
для третьей записи).