Вы можете перебрать любой узел в tinymce, как обычный html-узел, потому что на самом деле это обычные html-узлы.
Так что этого будет достаточно:
var ed = tinyMCE.activeEditor;
var element = ed.dom.getParent(ed.selection.getNode(), 'table');
var child = element.firstChild;
while(child){
if(child.nodeName.toLowerCase() == 'tr'){
//do your stuff here
}
child = child.nextSibling;
}