Проблема, как я уверен, вы знаете, заключается в том, что вы установили ориентацию экрана в альбомной ориентации - поэтому эта кнопка имеет правильную ориентацию для экрана.
Итак, первое, что нужно попробовать, это установить его в портретном режиме и посмотреть, получите ли вы правильную функциональность (для кнопки и действия с вложением). Я уверен, что вы попробовали это, но на это стоит обратить внимание.
Похоже, вы используете нестандартные кнопки, так почему бы не написать класс, который отображает текст в растровом изображении, повернуть его в правильную ориентацию и затем установить его в качестве фона для кнопки?