Если таблица небольшая, она может никогда не использовать индексы, поэтому добавление их может просто тратить ресурсы.
Существуют типы данных (например, изображения в SQL Server) и распределения данных, где индексы вряд ли будут использоваться или не могут быть использованы. Например, в SQL Server индексировать битовое поле бессмысленно, так как в данных недостаточно изменчивости для индекса, чтобы он приносил какую-либо пользу.
Если вы обычно делаете запрос с предложением like и подстановочным символом в качестве первого символа, индекс не будет использоваться, поэтому его создание - еще одна трата ресурсов.