У меня была похожая проблема - артефакты развиваются, когда NSTextView встроен в другое представление прокрутки (т.е. NSTableView).
Я фактически включил на setdrawsbackground, а затем добавил красивый цвет, чтобы он снова исчез.
-(void)awakeFromNib{
NSScrollView *scroll = [self enclosingScrollView];
[scroll setBorderType:NSNoBorder];
[scroll setDrawsBackground:YES];
[scroll setBackgroundColor:[NSColor windowBackgroundColor]];
}
Это в сочетании с событием scrollWheel позволяет мне использовать NSTextView в NSTableView.
-(void)scrollWheel:(NSEvent *)theEvent{
NSScrollView *scroll = [self enclosingScrollView];
[[scroll superview] scrollWheel:theEvent];
}