Данный код выполняет фильтрационную часть, потому что любое квадратичное положительное целое число является истинным значением, но оно не возвращает новое значение.
Похоже, вам нужно двадействия, одна фильтрация и изменение отфильтрованных значений.
В этом случае вам нужно Array#filter
для получения положительных целых чисел и Array#map
для квадратичного значения.
let array = [4, -4, 5.8, 1.6],
result = array
.filter(x => x > 0 && Number.isInteger(x))
.map(x => x * x);
console.log(result);