RichTextBox.Xaml отбрасывает многие вещи в качестве меры безопасности (насколько я помню, для установщика, а не для получателя, но он делает это в обоих направлениях, так что нет никаких неожиданностей в обоих направлениях).
Я рекомендую посмотреть сериализатор XAML, написанный Дэвидом Поллом в его блоге (здесь: http://www.davidpoll.com/2010/07/25/to-xaml-with-love-an-experiment-with-xaml-serialization-in-silverlight/), поскольку он может очень хорошо сериализовать RTB (это фактически один из тестовых примеров, которые он показывает). Дэвид был менеджером по анализатору Silverlight XAML в SL4, поэтому он очень много знает о XAML.
Но будьте осторожны при установке свойства .Xaml, так как вы можете по ошибке привести к раскручиванию элементов InlineUIContainer, которые загружают ресурсы в ваш домен приложений, которые вам там не нужны, поэтому убедитесь, что вы управляете входами или сами удаляете их очень осторожно.