Это можно сделать двумя способами:
В манифесте выполните следующие действия:
<activity
android:name=".MyActivity"
android:windowSoftInputMode="stateAlwaysHidden"/>
Или в своем коде Java выполните следующее:
View view = this.getCurrentFocus();
if (view != null) {
InputMethodManager imm = (InputMethodManager)getSystemService(Context.INPUT_METHOD_SERVICE);
imm.hideSoftInputFromWindow(view.getWindowToken(), 0);
}
Пожалуйста, обратитесь к этому SO ответ для подробного объяснения.