Решение @Nina красивое и простое, но некоторым людям нравится избегать eval.
Если это так, предоставленные вами данные удобны и просты для анализа, поэтому следующий вариант - еще один вариант.
let test = [" 1/2", " 3/4", " 1", " 1.1/4", " 1.1/2", " 2", " 2.1/2", " 3", " 4", " 3/8", " 1/4"];
const val = str => { const [a,b = 1] = str.split('/'); return a / b };
test.sort((a, b) => val(a)-val(b));
console.log(...test);