На самом деле это не полный ответ на ваш вопрос, но около 6 месяцев назад я решал ту же проблему.И я заканчиваю тем, что пишу свой собственный RTE, используя интенсивно Jquery и для загрузки флэш-плагина (больше файлов одновременно).Поддержка таблиц немного сложна, поэтому я не реализовал это, но планировал в будущем.
Если вам не нужны все функции большого RTE, вы можете использовать атрибут ContentEditable и построить вокруг него некоторые элементы управления.