Вы пытались удалить ссылку? Я полагаю, что это приведет к удалению родительской строки, но было бы любопытно узнать, удаляет ли она только ссылку, если вы передаете объект, связанный с заметкой.
context.DeleteObject(note.LocationReference);
Как правило, ошибка оптимистического параллелизма означает, что значение изменилось с момента последней загрузки объекта, но, похоже, это не проблема. Но, чтобы проверить, никто не мог изменить это между выполнением кода, верно?
Наконец, вы пытались установить состояние?
context.Entry(note).State = EntityState.Added