Если ваш драйвер несет единоличную ответственность за обработку xon / xoff, а символы флага xon / xoff могут быть идентичными, то я бы сказал, что вам нужно иметь небольшой конечный автомат (флаг) для состояния xon / xoff в вашем и только ищите xon, когда xoff уже был замечен.
Если у вас есть аппаратная поддержка xon / xoff, вам придется выяснить, поддерживается ли это состояние аппаратным обеспечением, и, если нет, вернуть соответствующие ошибки.