Используйте селектор для коллекции, затем используйте индекс для интересующего вас элемента, здесь тот, который отмечен.
var checkboxes = $('input:checkbox');
var selectedIndex = checkboxes.index(checkboxes.find(':checked'));
Чтобы получить индекс отмеченного флажка, используйте:
$('input:checkbox').click( function() {
var selectedIndex = $('input:checkbox').index( $(this) );
... now do something with it...
});
РЕДАКТИРОВАТЬ : На основе вашего примера кода:
var checkboxes = $('#<%=chkListGroups.ClientID %>').find('input:checkbox');
checkboxes.click(function() {
var selectedIndex = checkboxes.index($(this));
alert(selectedIndex);
});