Есть ли в любом случае сделать "insmod" и "rmmod" из кода C / C ++? Кроме запуска system (...), есть ли Kernel API, который позволит мне это сделать?
Вы смотрели на module-init-tools source?
В дополнение к просмотру источника для insmod и module-init-tools вы можете strace и ltrace запустить insmod.
insmod
strace
ltrace