Вы реализовали табличное представление методов перетаскивания источника данных, а не методы перетаскивания источника данных представления схемы. Контурное представление является своего рода табличным представлением, но оно использует исключительно протокол источника данных схематического представления; протокол источника данных табличного представления - только для источников данных табличного представления, а не источников данных представления схемы.
См. NSOutlineViewDataSource
протокол для более подробной информации о том, что именно вам нужно реализовать в вашем источнике данных.
На этом примечании: вам необходимо реализовать методы в вашем источнике данных, который в настоящее время не является вашим документом. Я не знаю, почему ты так сделал; Как правило, документ (в его роли главным образом контроллера) является владельцем модели, поэтому он должен быть источником данных для представления - источником данных.
Я предлагаю объединить класс OutlineDataSource с классом MyDocument и изменить методы перетаскивания табличного представления на их аналоги в виде структуры.