[window setContentView:customView]
также сделает работу.
Вам также необходимо добавить переменные IBOutlet для вашего окна и пользовательского представления в файл заголовка вашего контроллера и перетащить его в окно документа Interface Builder. Затем управляйте перетаскиванием из контроллера в окно и просмотрите и выберите переменные.
(и вам нужно изменить контроллер, чтобы он стал экземпляром вашего пользовательского класса контроллера, что вы делаете, выбрав его в Интерфейсном Разработчике и перейдя к Инспектору)