Ниже должно работать, как уже упоминалось в комментариях, вы должны сначала отсортировать массив, а затем выбрать нужный элемент. Также обратите внимание, что индекс массива основан на нуле, поэтому для 2-го по величине элемента вам потребуется arr[i-2]
public static int HW2K ()
{
int[] arr = {50,40,60,20,10};
Arrays.sort(arr);
int i = arr.length;
int secondlargest = arr[i-2];
return secondlargest;
}