У меня вопрос, как я могу установить новый android дизайн материала TabLayout в нижней части экрана, вроде нижней панели инструментов Instagram.
Это не TabLayout, это BottomNavigationView, и вы можете прочитать больше об этом здесь или проверить этот учебник .
TabLayout
BottomNavigationView