Другая возможная реализация может быть:
$(document).ready(function() {
let question = {
Id: 1
};
var selects = $(`select[data-questionid=${question.Id}]`).toArray();
var dataGroupNumber = selects.map(select => ($(select).attr('data-
responsegroupnumber')));
let responseGroupNumber = Math.max.apply(null, dataGroupNumber);
console.log(responseGroupNumber);
});
Math.max.apply (null, dataGroupNumber) вместо распределения массива внутри Math.max (...);