После случайного возни с аргументами командной строки я наконец-то заставил его работать. Я чувствую себя немного неубедительно, отвечая на мой собственный вопрос, но, надеюсь, это все равно поможет кому-то еще. Оказалось, что моя путаница заключалась в правильном использовании аргументов командной строки. Если у кого-то есть что-то более изящное или вообще полезное, чем то, что я положил, я наградлю вас ответом.
open System.Diagnostics
let launchExecutable() =
let proc = new Process()
proc.StartInfo.FileName <- @"C:\Program Files (x86)\Microsoft F#\v4.0\fsi.exe"
proc.StartInfo.Arguments <- @"--exec --nologo pathToFSXFile\Test.fsx"
proc.Start()
launchExecutable();;