Не могли бы вы выбрать существующий макрос ioctl, который драйвер вашего устройства не использует (и никогда не будет), и назначить его значение макросу для требуемого ioctl?
У меня ограниченные знания о том, как ioclt работает с драйверами устройств, поэтому, возможно, это не сработает.
Можете ли вы посмотреть на источник другого драйвера устройства, который имеет пользовательские значения ioctl, и посмотреть, как они выбрали свои номера? Может быть, есть диапазон, который ОС не использует, поэтому они доступны для интерпретации каждым драйвером устройства, как пожелает.