Как упоминает Джульетта, вы можете использовать любую библиотеку .NET из F #. Говоря конкретно об OpenTK, есть некоторые материалы, написанные Лораном Ле Брюном (однако все они о графике, а не математике):
Вероятно, это не точно то же самое, что вы ищете, но это должно помочь (например, если есть некоторые хитрые вещи, которые необходимо сделать при использовании OpenTK из F #)