Я думаю, что ViewPort3D окажется в верхнем левом углу холста с шириной и высотой 0, поскольку холст никогда не растягивает дочерние элементы. Попробуйте добавить Canvas.Left и Canvas.Top в нужное положение, а затем добавьте Width и Height для вашего Viewport3D. Если вы хотите, чтобы ваш Viewport3D всегда заполнял доступное пространство, тогда Canvas - неправильный путь.
<Canvas Width="900" Height="524">
<Viewport3D Canvas.Left="100"
Canvas.Top="100"
Width="200"
Height="200"
Name="mainViewport"
ClipToBounds="True"
IsHitTestVisible="False">
<Viewport3D.Camera>
<PerspectiveCamera
FarPlaneDistance="3500"
LookDirection="0,0,1"
UpDirection="0,1,0"
NearPlaneDistance="1"
Position="0,0,0"
FieldOfView="66" />
</Viewport3D.Camera>
<ModelVisual3D>
<ModelVisual3D.Content>
<AmbientLight Color="White" />
</ModelVisual3D.Content>
</ModelVisual3D>
</Viewport3D>
</Canvas>