Укажите черту, которую вы хотите удалить в маске, и 0 для значения, например:
CTFontRef normalFont
= CTFontCreateCopyWithSymbolicTraits(italicFont, // italic font
0, // keep size
NULL, // keep matrix
0, // value = 0
kCTFontItalicTrait); // mask = italic