Это довольно похожие функции, но большая разница в том, что TrackPopupMenuEx позволяет вам указать прямоугольник, над которым не будет отображаться всплывающее меню (чтобы иметь такой, который не затемняет то, что вам нужно видеть). Вот и все, насколько я вижу.