В T-SQL есть XOR-оператор:
SELECT 32 ^ 16;
Это выполняет побитовое XOR с растровыми изображениями этих двух чисел.
Но - согласно этой ссылке - хотя бы одна сторона оператора должна быть int, smallint или tinyint.
Итак, нет, встроенная поддержка VARBINARY XOR VARBINARY отсутствует.
Вы можете подумать о функции CLR ...