Что касается настройки формата вывода на XML, я предлагаю:
[myKeyedArchiver setOutputFormat: NSPropertyListXMLFormat_v1_0];
Что касается получения его в переменную, а не в файл, я бы предложил создать ваш NSKeyedArchiver с initForWritingWithMutableData: initializer. Когда кодирование закончено,
Обязательно вызовите на нем FinEncoding, и тогда XML будет в NSMutableData, который вы передали во время инициализации.
Если вам необходимо получить строку NSString, вы можете получить ее из NSMutableData следующим образом:
NSString* xmlString = [[NSString alloc] initWithData: myMutableData encoding: NSUTF8StringEncoding];
Это должно сработать. Удачи!