Используйте заглавную букву 'M' в части месяца строки формата.
как мне отформатировать jquery datepicker как "25-ЯНВ-2009"
Редактировать
Я уверен, что есть более хороший способ, но как насчет того, чтобы вручную присвоить ему названия месяцев?
$('#member_dob').datepicker({
monthNames: ['Jan','Feb','Mar','Apr','May','Jun','Jul','Aug','Sep','Oct','Nov','Dec']
});