Я так не думаю, селектор вкладок будет работать в случае tablayout .Вам нужно реализовать по-своему
Вам нужно установить TabSlected слушателя , а затем добавить следующий код,
tabLayout.setOnTabSelectedListener(new TabLayout.OnTabSelectedListener(){
@Override
public void onTabSelected(TabLayout.Tab tab){
int position = tab.getPosition();
LinearLayout view = (LinearLayout) tabLayout.getChildAt(0);
TextView textView = (TextView) view.getChildAt(position);
//Below line will change selected tab textview title only.
textView.setCompoundDrawablesWithIntrinsicBounds(null,null,null,objContext.getResources().getDrawable(R.drawable.selected_dot))
}
});