Как указано mklement0 , нет никакой гарантии, что программа выполнит запрошенный стиль окна.
В некоторых случаях вы можете обойти это, отредактировав соответствующий раздел реестра.В этом случае:
$registryPath = "HKCU:\Software\Microsoft\Office\16.0\OneNote\General\";
Set-ItemProperty -path $registryPath -name "WindowMode" -Value 1;
Start-Process 'C:\Program Files (x86)\Microsoft Office\root\Office16\ONENOTE.EXE'