Если я правильно вас понимаю, вы хотите, чтобы изображение оставалось в верхнем правом углу.Так как родительский div изображения установлен в положение: относительное, а изображение установлено в положение: абсолютное, попробуйте установить
top: 0; right: 0;
ОБНОВЛЕНИЕ: Извините, я неправильно понял, что вы пытались сделать в разметке.Попробуйте установить положение: относительное в div контейнера, установить положение: абсолютное значение в div тени и убрать стилизацию с самого изображения.
<div id="container" class="border" style="padding-top:1px;background-color:#336699; width:260px; height:195px; position:relative;">
<div class="shadow" style="position: absolute; top: 0; right: 5px;">
<img id="img" style="" src="close.png" value="Remove Element" onClick="removeElement('p','context');" />
</div>
ОБНОВЛЕНИЕ 2: Вот URL-адрес, на котором показаны вышеуказанные измененияв действии: http://dap.bstruthers.com/for_tom.html