Не уверен, что интервьюер искал XOR вместо чего-то еще, но кажется, что вы можете просто использовать +, - и x.Должно работать, если а больше или отрицательно.
*a+=*b
*b-=*a
*b=*b x -1
*a-=*b
В вашем примере это даст нам:
*a+=*b --> *a = 30
*b-=*a --> *b = -10
*b=*b x -1 --> *b = 10
*a-=*b --> *a = 20