JDBC с медленной выборкой метаданных Spring, Oracle - PullRequest
Новая
       47

JDBC с медленной выборкой метаданных Spring, Oracle

5 голосов
/ 09 января 2012

Я использую метод Spring JdbcUtils.extractDatabaseMetaData() для анализа базы данных.Функция вызывает обратный вызов и передает объект DatabaseMetaData.Этот объект обеспечивает getColumns(String catalog, String schemaPattern, String tableNamePattern, String columnNamePattern).

Я называю это так getColumns("",TABLE_OWNER_USERNAME,null,null) и в результате получаю 400 столбцов.Это именно те результаты, которые мне нужны, но запрос занимает более 1 минуты.

Можно ли как-нибудь оптимизировать этот запрос, чтобы он был быстрым?Вытягивание 400 строк должно происходить за 1 секунду, а не за одну минуту.

РЕДАКТИРОВАТЬ: Я не подозреваю, что пружина медленная.Более тщательный анализ показал, что получение DatabaseMetaData занимает несколько секунд, а выполнение getColumns() занимает очень много времени.

Ответы [ 2 ]

2 голосов
/ 12 января 2018

После обратного анализа фактических связей между клиентом и сервером я могу обнаружить, что методы Oracle DatabaseMetaData.getColumns () отправляют следующий запрос SQL (хотя это может измениться в зависимости от версий и настроек драйвера ODBC): 

    declare
    in_owner varchar2(128);
    in_name varchar2(128);
    in_column varchar2(128);
    xyzzy SYS_REFCURSOR;
    begin
    in_owner := :1;  // Which resolves to the schema (user) name supplied
    in_name := :2;   // Which resolves to the table name supplied
    in_column := :3; // Which gets set to '%';
    open xyzzy for
    SELECT NULL AS table_cat,
        t.owner AS table_schem,
        t.table_name AS table_name,
        t.column_name AS column_name,
    DECODE(  (SELECT a.typecode
        FROM ALL_TYPES A
        WHERE a.type_name = t.data_type),
    'OBJECT', 2002,
    'COLLECTION', 2003,
    DECODE(substr(t.data_type, 1, 9),
        'TIMESTAMP',
        DECODE(substr(t.data_type, 10, 1),
            '(',
            DECODE(substr(t.data_type, 19, 5),
                'LOCAL', -102, 'TIME ', -101, 93),
            DECODE(substr(t.data_type, 16, 5),
            'LOCAL', -102, 'TIME ', -101, 93)),
        'INTERVAL ',
        DECODE(substr(t.data_type, 10, 3),
        'DAY', -104, 'YEA', -103),
        DECODE(t.data_type,
        'BINARY_DOUBLE', 101,
        'BINARY_FLOAT', 100,
        'BFILE', -13,
        'BLOB', 2004,
        'CHAR', 1,
        'CLOB', 2005,
        'COLLECTION', 2003,
        'DATE', 93,
        'FLOAT', 6,
        'LONG', -1,
        'LONG RAW', -4,
        'NCHAR', -15,
        'NCLOB', 2011,
        'NUMBER', 2,
        'NVARCHAR', -9,
        'NVARCHAR2', -9,
        'OBJECT', 2002,
        'OPAQUE/XMLTYPE', 2009,
        'RAW', -3,
        'REF', 2006,
        'ROWID', -8,
        'SQLXML', 2009,
        'UROWI', -8,
        'VARCHAR2', 12,
        'VARRAY', 2003,
        'XMLTYPE', 2009,
        1111)))
    AS data_type,
        t.data_type AS type_name,
        DECODE (t.data_precision, null,
            DECODE(t.data_type, 'NUMBER',
                DECODE(t.data_scale, null, 0 , 38),
                    DECODE (t.data_type, 'CHAR', t.char_length, 'VARCHAR', t.char_length, 'VARCHAR2', t.char_length, 'NVARCHAR2', t.char_length, 'NCHAR', t.char_length, 'NUMBER', 0, t.data_length) ), t.data_precision)
        AS column_size,
        0 AS buffer_length,
        DECODE (t.data_type, 'NUMBER', DECODE(t.data_precision, null, DECODE(t.data_scale, null, -127 , t.data_scale), t.data_scale), t.data_scale) AS decimal_digits,
        10 AS num_prec_radix,
        DECODE (t.nullable, 'N', 0, 1) AS nullable,
        NULL AS remarks,
        t.data_default AS column_def,
        0 AS sql_data_type,
        0 AS sql_datetime_sub,
        t.data_length AS char_octet_length,
        t.column_id AS ordinal_position,
        DECODE (t.nullable, 'N', 'NO', 'YES') AS is_nullable,
        null as SCOPE_CATALOG,
        null as SCOPE_SCHEMA,
        null as SCOPE_TABLE,
        null as SOURCE_DATA_TYPE,
        'NO' as IS_AUTOINCREMENT,
        t.virtual_column as IS_GENERATEDCOLUMN
    FROM all_tab_cols t
    WHERE t.owner LIKE in_owner ESCAPE '/'
    AND t.table_name LIKE in_name ESCAPE '/'
    AND t.column_name LIKE in_column ESCAPE '/'
    AND t.user_generated = 'YES'
    ORDER BY table_schem, table_name, ordinal_position;
    end;

Вы можете понять, почему это может быть немного медленным, тем более что каждая таблица ALL_TAB_COLS и ALL_TYPES может иметь длину 1000 записей.Тем не менее, пока Oracle пытается выполнить первый в истории вызов (минуты), последующие вызовы возвращают результаты практически мгновенно.Это классическая проблема с производительностью объединения таблиц, когда требуется подмножество данных, но механизм объединяет весь набор данных до вычисления и доставки требуемого подмножества.Впоследствии кэширование данных / результатов работает для повышения производительности последующих запросов.

Лучшим решением может быть использование get_ddl () и синтаксический анализ возвращенного определения таблицы в соответствии с этой цепочкой .

В качестве альтернативы вы можете быстрее запросить метаданные таблицы, выполнив фиктивный запрос, а затем используя resultSetMetadata следующим образом (Примечание: метаданные примечаний столбца могут быть недоступны сразу): 

    ResultSet rs = connection.CreateStatement.executeQuery("SELECT * from MyTable WHERE 1=0");
    ResultSetMetaData md = rs.getMetaData();
    for (int ix = 1; ix <= md.getColumnCount(); ix++)
    {
      int colSize = md.getPrecision(ix);
      String nativeType = md.getColumnTypeName(ix);
      int jdbcType = md.getColumnType(ix);
      // and so on....
    }
2 голосов
/ 04 июля 2012

Возможно, это лучший подход для запроса ALL_TAB_COLUMNS.Вот пример: 

public final List<Column> getColumnsByOwner(final String owner) {
    final String sql = "SELECT COLUMN_NAME, DATA_TYPE, DATA_LENGTH, "
            + " DATA_PRECISION, DATA_SCALE, NULLABLE, DATA_DEFAULT"
            + " FROM ALL_TAB_COLUMNS"
            + " WHERE OWNER = ? ORDER BY COLUMN_ID";

    return jdbcTemplate.query(sql,
            new Object[] { owner },
            new RowMapper<Column>() {
                @Override
                public Column mapRow(final ResultSet res, final int rowNum)
                        throws SQLException {
                    final Column reg = new Column();

                    reg.setColumnName(res.getString("COLUMN_NAME"));
                    //Read other properties
                    reg.setNullable(res.getString("NULLABLE").equals("Y"));
                    return reg;
                }
            });
}

Если вам нужно отфильтровать по таблице, просто добавьте «AND TABLE_NAME =?»в sql и tableName в качестве другого параметра.

Надеюсь, это поможет.

...