Почему мои запросы блокируются? - PullRequest
5 голосов
/ 27 июля 2011

Я пытаюсь вставить некоторые файлы в базу данных Postgres.Поскольку ожидается многократное дублирование, мы помещаем сами файлы в таблицу file, а затем связываем их с разделом базы данных, которую мы используем, с таблицей output_file.Поскольку на таблицу file также ссылаются таблицы, отличные от output_file (например, аналогичная таблица input_file), один из ее столбцов представляет собой счетчик ссылок, который обновляется триггером при вставке строк в output_file (и другие таблицы тоже, хотя они не используются в момент возникновения проблемы).

CREATE TABLE file
(
    file_id serial PRIMARY KEY,
    --other columns
    occurences integer NOT NULL DEFAULT 0
);

CREATE TABLE output_file
(
    output_file_id serial PRIMARY KEY,
    --other columns
    file_id integer REFERENCES file NOT NULL
);

CREATE OR REPLACE FUNCTION file_insert() RETURNS opaque AS '
    BEGIN
        UPDATE file
        SET occurences = occurences + 1
        WHERE file.file_id = NEW.file_id;

        RETURN NEW;
    END;
' LANGUAGE plpgsql;

CREATE TRIGGER output_file_insert AFTER INSERT
    ON output_file FOR EACH ROW
    EXECUTE PROCEDURE file_insert();

Код, который вставляет файлы, показан ниже и представляет собой одну транзакцию.

private void insertFiles(Set<File> files){
    SortedSet<Integer> outputFileIDs = new TreeSet<Integer>();
    PreparedStatement fileExistsStatement = getFileExistsStatement();
    for(File file : files) {
        try {
            int fileID = -1;

            ResultSet rs = /* Query to see if file already present in file table */

            if(rs.next()) {
                // File found
                fileID = rs.getInt(1);
            }

            if(fileID < 0) {
                /* File does not exist, upload it */

                rs = /* Query to get file ID */
                fileID = rs.getInt(1);
            }

            outputFileIDs.add(fileID);
        }
        catch(FileNotFoundException e){
            /* handle errors */
        }
    }

    Iterator<Integer> it = outputFileIDs.iterator();
    while(it.hasNext()){
        /* Insert reference in output file table */
        PreparedStatement outputFileStatement = "INSERT INTO output_file (file_id, /*...*/) VALUES (?, /*...*/);";
        outputFileStatement.setInt(1, it.next());
        outputFileStatement.executeUpdate();
    }
}

Моя проблема в том, что код блокируется (исключение показано ниже) много .Какое-то время он будет довольно радостно бродить, затем повсюду начнут возникать взаимоблокировки до такой степени, что ничто вообще не попадет в базу данных, когда мы откатимся и повторим попытку.Однако я озадачен тем, почему он вообще заходит в тупик.Идентификаторы файлов хранятся в отсортированном наборе, и поэтому блокировки в таблице file должны быть получены в согласованном порядке для всех транзакций, как предлагается в руководстве Postgres, для предотвращения любой тупиковой ситуации.Что я делаю неправильно?Postgres запускает свои триггеры в неопределенном порядке?

org.postgresql.util.PSQLException: ERROR: deadlock detected
    Detail: Process 8949 waits for ShareLock on transaction 256629; blocked by process 8924.
Process 8924 waits for ExclusiveLock on tuple (4148,40) of relation 30265 of database 16384; blocked by process 8949.
    Hint: See server log for query details.
    Where: SQL statement "UPDATE file
            SET occurences = occurences + 1
            WHERE file.file_id = NEW.file_id"
PL/pgSQL function "file_insert" line 2 at SQL statement
    at org.postgresql.core.v3.QueryExecutorImpl.receiveErrorResponse(QueryExecutorImpl.java:2102)
    at org.postgresql.core.v3.QueryExecutorImpl.processResults(QueryExecutorImpl.java:1835)
    at org.postgresql.core.v3.QueryExecutorImpl.execute(QueryExecutorImpl.java:257)
    at org.postgresql.jdbc2.AbstractJdbc2Statement.execute(AbstractJdbc2Statement.java:500)
    at org.postgresql.jdbc2.AbstractJdbc2Statement.executeWithFlags(AbstractJdbc2Statement.java:388)
    at org.postgresql.jdbc2.AbstractJdbc2Statement.executeUpdate(AbstractJdbc2Statement.java:334)
    at com.mchange.v2.c3p0.impl.NewProxyPreparedStatement.executeUpdate(NewProxyPreparedStatement.java:105)
    at [outputFileStatement.executeUpdate(), above]

[править] По запросу axtavt транзакции управляются кодом, вызывающим указанный метод.

public void run(){
    /* connection.setAutoCommit(false) has already been called elsewhere */
    try{
        boolean committed = false;
        boolean deadlocked = false;

        synchronized(connection){
            do{
                deadlocked = false;
                try {
                    /* insert lots of other stuff */

                    if(!files.isEmpty()){
                        insertFiles(files);
                    }

                    /* insert some more stuff */

                    connection.commit();
                    committed = true;

                    closeStatements();
                }
                catch(PSQLException e){
                    if(e.getSQLState() != null){
                        if(e.getSQLState().equals("40P01")){
                            /* Log the fact that we're deadlocked */
                            deadlocked = true;
                        }
                        else{
                            throw e;
                        }
                    }
                    else{
                        throw e;
                    }
                }
                finally {
                    try {
                        if(!committed) {
                            connection.rollback();
                        }
                    }
                    catch (SQLException e) {
                        /* Log exceptions */
                    }
                }
            }while(deadlocked);
        }

    }
    catch(Exception e){
        /* Log exceptions */
    }
    finally{
        try {
            connection.close();
        }
        catch (SQLException e) {
            /* Log exceptions */
        }
    }
}

1 Ответ

8 голосов
/ 03 августа 2011

Вот что происходит (я подозреваю):

Кортеж файла (скажем, file.file_id = 1) уже существует.

Процесс A вставляет новый выходной файл с output_file.file_id = 1. Это получает разделение на файл кортежа с file.file_id = 1.

Процесс B вставляет новый выходной файл с output_file.file_id = 1. При этом устанавливается блокировка файла для кортежа файла с file.file_id = 1 (более одной транзакции может содержать блокировку общего ресурса для одного кортежа).

Затем процесс A запускает триггер, который пытается обновить кортеж файла с file.file_id = 1. Он не может преобразовать свою долю в монопольную блокировку, поскольку другая транзакция (процесс B) удерживает эту долю. Итак, он ждет.

Процесс B затем запускает свой триггер , который пытается обновить кортеж файла с file.file_id = 1. По той же причине он не может продвигать свою долю, поэтому он ждет ... и тогда у нас тупик.

Чтобы исправить, прежде чем вставлять новый кортеж, в SELECT ... FOR UPDATE в кортеже файла, который будет новым родителем; это создаст исключительную блокировку для этой строки, поэтому другие транзакции будут поставлены в очередь с самого начала.

...