Вам нужно будет отправить его в двух сообщениях:
// 'p' is a pointer to your polygon
vertex *tmp = p->v;
p->v = NULL;
MPI_Send(p, sizeof(struct polygon), MPI_BYTES, dest, 1, ...);
MPI_Send(tmp, sizeof(struct vertex), MPI_BYTES, dest, 2, ...);
p->v = tmp;
На принимающей стороне вы просто получаете структуру в два этапа:
polygon p;
MPI_Recv(&p, sizeof(struct polygon), MPI_BYTES, src, 1, ...);
p.vertex = malloc(sizeof(struct vertex));
MPI_Recv(p.vertex, sizeof(struct vertex), MPI_BYTES, src, 2, ...);
Очевидно, что это не очень хорошо, поэтому будет проще, если вы оставите свой struct без указателя, чтобы вы могли отправить его сразу.