У вас должен быть тот же файл keystore , который вы использовали для загрузки первой версии приложения на Android Market. Если вы потеряли этот файл хранилища ключей, вы не сможете предоставить обновление для этого приложения.
Так что в вашем случае вы должны иметь этот файл хранилища ключей, подписать apk версии 3 этим файлом хранилища ключей и загрузить на рынок.
От Android doc: Публикация обновлений на Android Market
Публикация обновлений на Android Market
В любое время после публикации приложения в Android Market вы можете
загрузить и опубликовать обновление для того же пакета приложения. Когда ты
опубликовать обновление приложения, пользователи которого уже установили
приложение может получить уведомление о наличии обновления
для приложения. Затем они могут выбрать обновить приложение до
последняя версия.
Перед загрузкой обновленного приложения убедитесь, что у вас есть
увеличил атрибуты android: versionCode и android: versionName
в элементе файла манифеста. Также название пакета
должна совпадать с существующей версией, а файл .apk должен быть
подписано тем же секретным ключом. Если название пакета и подпись
сертификат не совпадает с сертификатом существующей версии, Маркет будет
рассмотрите новое приложение, опубликуйте его как таковое и не предложите
это для существующих пользователей в качестве обновления.