Чтобы получить размытие фона, вы можете использовать WindowManager.LayoutParams, Эта страница имеет пример именно этого.
Диалог, который они показывают в размещенной вами ссылке, может быть создан с использованием либо собственного расширения диалога, либо совершенно нового действия с темой, установленной на прозрачный.