Границы появляются вокруг изображений, которые используются в качестве ссылок. Это поведение по умолчанию для IE, и предполагает, что в какой-то момент вы удалили правило CSS, которое предотвращает его.
Попробуйте добавить что-то вроде этого в свой CSS:
a img {
border:0;
}