Я не писал для Mac, но пытаюсь отловить событие нажатия и вручную установить значок с инвертированными цветами ...
void <YourClass>::onTrayIconActivated(QSystemTrayIcon::ActivationReason reason)
{
if(reason==QSystemTrayIcon::Trigger)
{
<Your tray object>->setIcon(<Icon with inverted colors>);
}
}
подключите его к сигналу вашего трея activated()
если на Mac по умолчанию инвертируется цвет значков назад, вы можете сделать это с помощью таймера или чего-то подобного.