Как я могу отобразить кнопку закрытия X в верхнем правом углу подкласса QToolButton и контролировать его поведение?
Подкласс QToolButton и в конструкторе вашего класса, например MyToolButton добавляет дочерний QPushButton поверх кнопки вашего инструмента.