Используйте, например, коллекцию элементов для доступа к этим элементам:
document.fic_rec.elements['rec_genres[]']
Обратите внимание: это вернет nodeList, если найдено более 1 элемента.
Если имеется только 1 элемент сданное имя возвращает сам элемент, а не nodeList.
Вы также можете использовать querySelectorAll()
(не поддерживается IE <8) </p>
document.querySelectorAll('form[name="fic_rec"] input[name="rec_genres[]"]')
... это будетвсегда возвращайте nodeList, независимо от того, сколько элементов найдено.
Ответ на комментарий:
var radio_count = 0;
for (var i=0;i<document.fic_rec.elements['rec_pub_length[]'].length;i++)
{
if (document.fic_rec.elements['rec_pub_length[]'][i].checked)
{
radio_count = 1;
break;
}
}
if (radio_count != 1) { rec_error += "story length; "; }