Вы можете создать уникальное ограничение:
alter table t add constraint unq_t_userid_visitorid_action
unique (userid, visitorid, action);
Вы также можете сделать это, создав уникальный индекс:
create unique index unq_t_userid_visitorid_action on t(userid, visitorid, action);
Вы должны иметь возможность создавать индекс через WorkbenchGUI интерфейс.