Сначала укажите свой идентификатор
<select id="yourSelect" multiple="multiple" name="example" size="10">
тогда
var numSelected = 0;
var allOptions = document.getElementById("yourSelect");
for (var i = 0; i < allOptions.length; i++)
if (allOptions[i].selected)
numSelected++
Для полноты, я упомяну, что если вы когда-нибудь захотите использовать jQuery, и я не говорю, что вам нужно что-то такое простое, но если вы когда-нибудь сделаете это, вы можете сделать это с помощью
var numSelected = $("option:selected", "#yourSelect").length;