Нет возможности использовать dotnet для сборки в Visual Studio для Mac. Он использует msbuild. Если вы действительно хотите это сделать, вам нужно обойти встроенную поддержку и использование msbuild, предоставляемые VS Mac.
VS Mac использует msbuild, поставляемый с Mono, потому что он поддерживает больше целевых структур (например, Xamarin.iOS, Xamarin.Android), чем MSBuild .NET Core SDK. Обратите внимание, что VS в Windows использует аналогичный подход, когда для запуска сборок он использует настольный MSBuild и не использует сборку dotnet.
Однако MSBuild от Mono по-прежнему использует различные целевые файлы MSBuild SDK, которые поставляются с .NET Core SDK. Существует средство преобразования MSBuild SDK, поставляемое с Mono, которое позволяет находить и использовать цели .NET Core SDK msbuild.
Также обратите внимание, что MSBuild от Mono включает в себя некоторые части .NET Core SDK, поэтому он может компилировать проекты .NET Standard без использования .NET Core SDK.