Я не уверен, что это ошибка, но, вообще говоря, определение типа при наличии нескольких перегрузок трудно сделать хорошо.Лучше всего добавить несколько типов аннотаций:
type MyType() =
static member myMember<'a,'b,'c> (f:'a,(g:'b,h:'c)) = g
static member myMember (a,(b,c,d)) = MyType.myMember<_,_,_>(a,(b,c))
static member myMember (a,(b,c,d,e)) = MyType.myMember<_,_,_>(a,(b,c))