Второй аргумент - указатель на структуру pthread_mutexattr_t
, которая позволяет настроить поведение мьютекса; NULL означает «здесь нет специальных опций, используйте поведение мьютекса по умолчанию».
Большинство параметров мьютекса полезны только в крайних случаях (избегая взаимоблокировок с инверсией приоритетов, разделяя мьютекс между процессами, а не потоками), а более полезные (например, управление рекурсией) были стандартизированы только в редакции POSIX 2008 года, что означает Вы еще не можете положиться на их кроссплатформенность. Ответ Паксдиабло содержит исчерпывающий список.