Я понял, как это сделать.Он называется InlineUIContainer, вы можете сделать что-то подобное, чтобы заставить его работать.Хотя это не сохраняет его в Xaml
var p = new Paragraph();
var inlineUIContainer = new InlineUIContainer() { Child = new Button() { Content = "This is a Button!" } };
p.Inlines.Add(inlineUIContainer);
_richTextBox.Blocks.Add(p);