Я не думаю, что перехват функции TextOut является возможным решением (хотя, безусловно, возможно). У вас нет никаких гарантий, что текст, который вы хотите найти, был нарисован с помощью этой функции. Попытка использовать OCR была бы аналогично сопряжена с трудностями.
Я подозреваю, что для ваших целей было бы достаточно перечислить окна целевого приложения (используя GetWindow и связанные функции) и исследовать текст каждого (используя GetWindowText), чтобы найти то, что вам нужно. Это даст вам дескриптор окна, и вы сможете получить границы окна или отправить ему сообщение напрямую.