Не уверен, что полностью понимаю вопрос, но:
$(":button.brown").click(function() {
$(":button.brown.selected").removeClass("selected");
$(this).addClass("selected");
});
похоже на то, что вы хотите.
Я бы определенно рекомендовал использовать классы вместо прямой настройки CSS, что проблематично по нескольким причинам (например, удаление стилей нетривиально, удаление классов легко), но если вы хотите пойти по этому пути:
$("...").css("background", "brown");
Но когда вы хотите отменить это изменение, на что вы его установите?