Изображения будут использовать меньше ресурсов процессора, но использовать больше памяти.
Vector будет использовать больше ЦП, но потреблять меньше памяти (хотя это и игнорируется, если вы используете filters / cacheAsBitmap). Самое большое преимущество использования векторов - это возможность изменять контент в режиме реального времени.
cacheAsBitmap поможет, если у вас есть сложные векторы, и они не меняются, а у вас что-то перерисовывается поверх них.
Однако для простой кнопки я бы сказал, что это не имеет значения - используйте любой тип активов, который вам легче поддерживать. Если у вас нет сотен (если не тысяч) кнопок на экране одновременно, и у вас есть очень сложный рендеринг, заставляющий их постоянно перерисовываться, попытка оптимизировать управление процессором и памятью до этого уровня тратит слишком много времени там, где это важно слишком мало.