LINQ To SQL в параллельном цикле: как предотвратить повторяющиеся вставки? - PullRequest
0 голосов
/ 13 декабря 2018

У меня возникли проблемы с попыткой распараллелить вычислительно дорогостоящую интеграцию API.

Интеграция запрашивает API параллельно и заполняет коллекцию ConcurrentBag.Некоторая обработка выполняется, и затем она передается в Parallel.ForEach(), в котором она взаимодействует с базой данных с помощью LINQ To Sql.

Там есть:

  1. одинвнешний цикл, который работает параллельно для Курсов

  2. внутренний цикл через Дисциплины

  3. внутри него, еще один цикл, повторяющий уроки.

Проблема Я сталкиваюсь с тем, что любой урок может принадлежать более чем одному курсу, параллельное прохождение курсов означает, что иногда урок вставляется более чемодин раз.

Код в настоящее время выглядит следующим образом:

(externalCourseList - это коллекция типа ConcurrentBag<ExternalCourse>.)

Parallel.ForEach(externalCourseList, externalCourse =>
{
    using ( var context = new DataClassesDataContext() )
    {
        var dbCourse = context.Courses.Single( x => x.externalCourseId == externalCourse.courseCode.ToString() );

        dbCourse.ShortDesc = externalCourse.Summary;
        //dbCourse.LongDesc = externalCourse.MoreInfo;
        //(etc)

        foreach (var externalDiscipline in externalCourse.Disciplines)
        {
            var dbDiscipline = context.Disciplines.Where(
                x => x.ExternalDisciplineID == externalDiscipline.DisciplineCode.ToString() ).SingleOrDefault();

            if (dbDiscipline == null)
                dbDiscipline = new Linq2SQLEntities.Discipline();

            dbDiscipline.Title = externalDiscipline.Name;
            //(etc)
            dbDiscipline.ExternalDisciplineID = externalDiscipline.DisciplineCode.ToString();

            if (!dbDiscipline.IsLoaded)
                context.Disciplines.InsertOnSubmit(dbDiscipline);

            // relational table used as one-to-many relationship for legacy reasons
            var courseDiscipline = dbDiscipline.Course_Disciplines.SingleOrDefault(x => x.CourseID == dbCourse.CourseID);

            if (courseDiscipline == null)
            {
                courseDiscipline = new Course_Discipline
                {
                    Course = dbCourse,
                    Discipline = dbDiscipline
                };

                context.Course_Disciplines.InsertOnSubmit(courseDiscipline);
            }

            foreach (var externalLesson in externalDiscipline.Lessons)
            {
                /// The next statement throws an exception
                var dbLesson = context.Lessons.Where(
                    x => x.externalLessonID == externalLesson.LessonCode).SingleOrDefault();

                if (dbLesson == null)
                    dbLesson = new Linq2SQLEntities.Lesson();

                dbLesson.Title = externalLesson.Title;
                //(etc)
                dbLesson.externalLessonID = externalLesson.LessonCode;

                if (!dbLesson.IsLoaded)
                    context.Lessons.InsertOnSubmit(dbLesson);

                var disciplineLesson = dbLesson.Discipline_Lessons.SingleOrDefault(
                    x => x.DisciplineID == dbDiscipline.DisciplineID && x.LessonID == dbLesson.LessonID);

                if (disciplineLesson == null)
                {
                    disciplineLesson = new Discipline_Lesson
                    {
                        Discipline = dbDiscipline,
                        Lesson = dbLesson
                    };

                    context.Discipline_Lessons.InsertOnSubmit(disciplineLesson);
                }
            }

        }

        context.SubmitChanges();
    }
}
);

(IsLoaded реализован, как описано здесь .)

Исключение выдается в строке, предшествующей ///, поскольку один и тот же урок часто вставляется несколько рази вызов .SingleOrDefault() на context.Lessons.Where(x => x.externalLessonID == externalLesson.LessonCode) не удался.

Каков наилучший способ решить эту проблему?

Спасибо.

...