Пять - это число аргументов, которые ltrace напечатает, если не может найти описание функции в файле конфигурации. (я думаю, /etc/ltrace.conf по умолчанию).
В моей системе я вижу такое же поведение, и mprotect там не найден, только SYS_mprotect.
Если вы хотите иметь второй взгляд на источник ltrace, интересующей вас является output.c, условный после "func = name2func (function_name);" - который печатает 5 аргументов
если метаинформация для имени функции не найдена (и в этом случае линейный поиск в name2func возвращает NULL).
Таким образом, руководство является правильным, это ltrace, который является "неправильным" (цитируется "неправильно", потому что технически код работает так, как должен, хотя, вероятно, значения def в конфигурации должны быть исправлены)