Системный вызов используется специально для запуска работы в режиме ядра, поскольку обычному пользовательскому коду это запрещено по соображениям безопасности.
Например, если вы хотите выделить память, операционная система имеет право делать это (поскольку она знает таблицы страниц и имеет доступ к памяти других процессов), но вам, как пользовательской программе, не следует заглянуть или испортить память о других процессах.
Это способ песочницы. Таким образом, вы отправляете системный вызов с просьбой операционной системы выделить память, и это происходит на уровне ядра.
Редактировать: теперь я вижу, что статья Википедии на удивление полезна для этого