Без какой-либо библиотеки вы должны использовать:
var framwWindow = document.getElementById('myIframe').contentWindow;
var anchor = frameWindow.document.getElementById('btn');
Примечание. Вы не можете включить страницу в iframe так, как показано в вопросе. Это будет работать:
Main:
<iframe id="myIframe" src="frame.html"></iframe>
frame.html
:
<a id="btn" href="...">Link</a>