Столбец1 и Столбец2 должны быть соединены отдельно. Также следует использовать ISNULL или COALESCE, если нет соответствующего перевода. Ниже приведен пример (Fiddle: http://sqlfiddle.com/#!18/160f0/3/0)
CREATE TABLE ValuesTable (
Column1 varchar(3),
Column2 varchar(3)
);
INSERT INTO ValuesTable (Column1, Column2) VALUES
('aaa', 'xxx'), ('aaa', 'yyy'), ('bbb', 'zzz');
CREATE TABLE TranslationTable (
Old varchar(3),
New varchar(3)
);
INSERT INTO TranslationTable (Old, New) VALUES
('aaa', 'ooo'), ('yyy', 'ppp');
SELECT ISNULL(c1.New, Column1), ISNULL(c2.New, Column2) FROM ValuesTable
LEFT JOIN TranslationTable c1 ON c1.Old = Column1
LEFT JOIN TranslationTable c2 ON c2.Old = Column2