StackOverflow использует Markdown для преобразования синтаксиса, на который вы ссылаетесь (и даже больше!), В разметку HTML. Вам было бы разумно использовать эту структуру или ту, которая ей нравится, вместо того, чтобы катить свою собственную - зачем все это пытаться воспроизвести что-то, что хорошо работает?
Markdown - это инструмент преобразования текста в HTML для веб-авторов. Markdown позволяет писать с использованием простого для чтения, простого для записи простого текстового формата, а затем преобразовывать его в структурно допустимый XHTML (или HTML).
Если вы решите свернуть свое собственное, используйте что-то помимо регулярных выражений, например, конечный автомат - регулярные выражения очень быстро усложняются для задачи такой сложности.