Если вы используете ASP.NET, вам нужно вставить в файл web.config следующее:
<configuration>
...
<system.webServer>
<staticContent>
<mimeMap fileExtension=".apk"
mimeType="application/vnd.android.package-archive" />
</staticContent>
</system.webServer>
...
</configuration>
Кроме этого (как уже говорили другие), вам просто нужна нормальная ссылка:
<a href="myAndroidApp.apk">Click here</a>
и попросите своих пользователей включить в настройках опцию Безопасность -> Неизвестные источники.