Без дополнительных временных переменных или скобок.
var width= $(this).width(), height= $(this).height()
, maxWidth=100, maxHeight= 100;
if(width > maxWidth){
height = Math.floor( maxWidth * height / width );
width = maxWidth
}
if(height > maxHeight){
width = Math.floor( maxHeight * width / height );
height = maxHeight;
}
Имейте в виду: поисковым системам это не нравится, если атрибуты width и height не соответствуют изображению, но они не знают JS,