Для IE: window.close();
и self.close();
должны работать нормально.
Если вы хотите просто открыть браузер IE и набрать
javascript:self.close()
и нажать клавишу ввода, он должен спросить васдля подсказки.
Примечание: этот метод не работает для Chrome или Firefox.