На последнем ядре, и если ядро настроено с поддержкой трассировки и динамической трассировки, ftrace , вероятно, может делать то, что вам нужно.
Другой вариант - написать оболочку ioctl, загрузить ее с помощью LD_PRELOAD и перехватить интересный ioctl в вашей оболочке.