Вы не можете стилизовать собственные элементы управления.
Вы можете опустить только атрибут controls, а затем создать свой собственный пользовательский интерфейс (например, используя <button>), который управляет аудиоэлементом с помощью JavaScript.