Да, вы можете установить пользовательский значок в качестве объекта QIcon для объекта QSystemTray.
Пример кода
QSystemTrayIcon m_Tray = new QSystemTrayIcon(this);
m_Tray->setIcon(QIcon(":/Images/customIcon.ico"));
m_Tray->show();
или передайте QIcon в самом конструкторе.