Похоже, вы не конвертируете между правильными взглядами.Кадр представления установлен на координаты его суперпредставления, а не на его собственные внутренние координаты, поэтому, если вы пытаетесь преобразовать начало представления в координаты окна, вам необходимо использовать суперпредставление:
[[self superview] convertPoint:self.frame.origin toView:theWindow];
Тем не менее, еще проще преобразовать нулевую точку из самого вида в окно.Две части кода эквивалентны, и поэтому нет необходимости использовать источник вообще.
[self convertPoint:CGPointZero toView:theWindow];