Предупреждения означают, что рассматриваемый объект не (насколько известно компилятору) не реализует эти два метода. Это означает, что либо ваш оконный контроллер не наследует от правильного суперкласса, либо указатель на оконный контроллер имеет неправильный тип. Это может быть, а может и не быть причиной того, что ваше окно не открывается, это невозможно понять только из предупреждений.
edit: из вашего полного кода похоже, что вы декларируете свой контроллер как наследующий от NSObject, а не NSWindowController.