Не совсем уверен, что это то, что вы ищете, но это звучит достаточно близко.Это изменит размер вашего tableView до любого размера в пикселях, который вы укажете.Он будет делать это и при переходе (поэтому он не просто перейдет к размеру).Вы можете удалить переход, если хотите.
[UIView beginAnimations:nil context:nil];
[UIView setAnimationDuration:0.5];
CGRect rect = myTableView.frame;
rect.size.height = 400;
rect.size.width = 300;
myTableView.frame = rect;
[UIView commitAnimations];