Спасибо за ответ, но, как оказалось, моя проблема появилась из-за того, что IE не смог вставить изображение, если у моего iframe (контейнера richeditor) не было фокуса. Поэтому перед использованием execCommand я использовал следующий код, и он сработал.
document.getElementById('iframeId').contentWindow.focus();