bash не поддерживает float, используйте awk или bc / dc
например, awk
totalmark=$(awk 'BEGIN{print $sum / $subjects}')
или до н.э.
totalmark=$(echo "scale=2;$sum/$subjects"|bc)
если у вас есть возможность использовать другие оболочки, кроме bash, попробуйте zsh или ksh
$ zsh -c 'echo $((4/1.3))'
3.0769230769230766
$ ksh -c 'echo $((4/1.3))'
3.07692307692307692