Когда вы сохраняете настройки, вам нужно иметь четкий тип данных. В этом случае вы просто сохраняете ItemsSource, но что на самом деле находится в источнике items? Эти данные должны быть общедоступными, чтобы сериализатор мог их сериализовать. Какие данные есть в ListBox? Как это определяется?
IEnumerable (как таковой) также не может быть сериализован, потому что сериализатору необходимо знать, какому типу его сериализовать.
Я бы порекомендовал такой код:
var data = (IEnumerable<MyDataType>)listBox1.ItemsSource; // perform the cast to get the correct type;
settings.Add("list", data.ToArray()));
settings.Save();
Таким образом, у него есть хороший чистый тип данных для сериализатора.