Вот как я это сделал в Xcode 4.6 ...
В IB выберите табличное представление и перейдите к Инспектору Атрибутов. Выберите «Униформа» для «Размер столбца». Затем выберите столбец таблицы и выберите «Авторазмеры с таблицей» для «Изменение размера».
Эти параметры соответствуют:
[tableView setColumnAutoresizingStyle:NSTableViewUniformColumnAutoresizingStyle];
[tableColumn setResizingMask:NSTableColumnAutoresizingMask];