По сути, если вы масштабируете планеты, которые вы изменяете, это width, height, top, left, border-radius
свойства.
масштаб, конечно, удобен, но поскольку вы переопределяете преобразование, вы можете попробовать это:
#planet-venus:hover {
width:20px;
height:20px;
left: 396px;
top: 290px;
border-radius:10px;
}
Выпридется рассчитать высоту ширины и изменить положение каждой планеты на половину масштаба, но это работает.
http://jsfiddle.net/kAKdm/21/ - попробуйте навести курсор на Венеру.