Я не знаю ничего конкретного о librsync, но вы должны иметь возможность использовать ld или gcc --shared как обычно. Тем не менее, когда вы пытаетесь создать большие библиотеки с большим количеством зависимостей, часто бывает очень гораздо проще, если вы можете использовать существующий Makefile и вносить в него только небольшие изменения.
Итак, ваш первый шаг - увидеть, что он собирается под MinGW, как есть, а затем попытаться изменить Makefile, чтобы сделать dll