Во-первых, вы рисуете прямоугольник, а во-вторых, вы делаете его округленным:)
Set shp = ActivePage.DrawRectangle(0, 0, 1, 1)
shp.Cells("Rounding").Formula = 0.1
Обычный совет здесь - использовать макро-рекордер, выполнять шаги вручную и смотреть на сгенерированный код.
--- update ---
Если вы хотите иметь форму «прямоугольник со скругленными углами» (стилизованный прямоугольник с желтой ручкой), вы можете использовать что-то вроде приведенного ниже кода («закругленный»Прямоугольник "shape" находится в шаблоне "basic shape" ("Basic.vss" или "Basic.vssx", в зависимости от версии Visio).Вы открываете этот трафарет и затем перетаскиваете фигуру из этого трафарета на страницу с заданными координатами:
Set stencil = Application.Documents.OpenEx("Basic.vss", visOpenDocked)
ActivePage.Drop stencil.Masters("Rounded Rectangle"), 1, 1