Попробуйте это
": test :".replace(/: *(.*?) *:/g,":$1:")
let a = ": test :".replace(/: *(.*?) *:/g,":$1:")
console.log(a);
Если вы хотите удалить только пробелы из строки, используйте просто
": test :".replace(/ /g,'')
let a = ": test :".replace(/ /g,'')
console.log(a);