Doxygen выдаст вывод LaTeX, если вы установите GENERATE_LATEX=YES в файле конфигурации doxygen.
Команда, которую вы цитировали, инструктирует doxygen записывать заголовок документа LaTeX по умолчанию и таблицу стилей в файлы, поэтому для этого нужно было создать два файла с именами headerFile и styleSheetFile. Это объясняется в документации по доксигену здесь .
Затем вы можете использовать опцию LATEX_HEADER в вашем файле конфигурации, чтобы указать doxygen использовать ваш заголовочный файл вместо его по умолчанию, и это позволит вам настроить стиль документа. LATEX_HEADER здесь описано .