По сути, столбцы 1 и 2 должны быть уникальными, а столбцы 1,3 и 4 - уникальными. Поэтому, когда вы создаете таблицу, вы можете использовать два УНИКАЛЬНЫХ состава:
CREATE TABLE tbl (
col1 varchar(255),
col2 varchar(255),
col3 varchar(255),
col4 varchar(255),
CONSTRAINT uc_first UNIQUE(col1, col2),
CONSTRAINT uc_second UNIQUE(col1, col3, col4)
)