Вам нужен только SDK, соответствующий уровню API, для которого вы собираетесь создавать.
На этой странице: http://developer.android.com/resources/dashboard/platform-versions.html
указано, какие устройства наиболее активны при текущем использовании (доступ к рынку в течение 2 недель)
Судя по этому, если вы нацелены2.1 вы сможете установить свое приложение на 98,3% всех таких устройств.
Как правило, лучше выбрать самую старую платформу, которая поддерживает все необходимые вам функции.Просто оставайтесь на уровне 1.6 или выше, тогда была введена поддержка нескольких размеров экрана.