Для большинства браузеров - как в Mozilla, Webkit et al. - ничего не произойдет, потому что в конечном итоге есть ограничение на глубину вложенности iframe. Кроме того, любой iframe с установленным для SRC точным URL-адресом, используемым одним из его родителей, будет рассматриваться как вообще не имеющий URL-адреса SRC (iframe отображается как пустой кадр - как показано в скрипте из вышеприведенного комментария: http://jsfiddle.net/tze8x/1/).
НО для Internet Explorer применяются другие правила ... Если вы добавляете простой номер итерации в качестве строки запроса в IE src вложенного iFrame - и мы также проверили это с последней версией IE 10 - просто вылетает:)
this.php
<html>
<head></head>
<body>
<iframe src="this.php?q=<?php echo (isset($_GET['q'])?$_GET['q']:1)+1?>" />
</body>
</html>