предупреждения о захоронении с данными, загруженными с помощью sstableloader - PullRequest
0 голосов
/ 22 мая 2018

Я загружаю данные из одной из моих таблиц Кассандры в новую таблицу с измененным ключом раздела.В качестве первого шага я взял дамп текущей таблицы в CSV-файл.Впоследствии я использовал CQLSSTableWriter для генерации sstables, как показано ниже.

// Prepare SSTable writer 
CQLSSTableWriter.Builder builder = CQLSSTableWriter.builder();
// set output directory 
builder.inDirectory(outputDir)
   // set target schema 
   .forTable(SCHEMA)
   // set CQL statement to put data 
   .using(INSERT_STMT)
   // set partitioner if needed 
   // default is Murmur3Partitioner so set if you use different one. 
   .withPartitioner(new Murmur3Partitioner());
CQLSSTableWriter writer = builder.build();

// ...snip... 

while ((line = csvReader.read()) != null)
{
        writer.addRow(DATE_FORMAT.parse(line.get(0)),
               UUID.fromString(line.get(1)),
               line.get(2),
               line.get(3),
               line.get(4),
               Long.parseLong(line.get(5)),
               line.get(6));
}
writer.close();

Проблема возникает, когда в моей таблице csv / существующие есть нулевые значения.

После загрузки sstables в cassandra я вижу многопредупреждения, связанные с надгробиями.Можно ли как-нибудь избавиться от надгробий?

1 Ответ

0 голосов
/ 22 мая 2018

В некоторых случаях установка столбца в NULL аналогична написанию надгробной плиты.

Убедитесь, что они установлены достаточно высоко в файле cassandra.yaml, чтобы запросы не заканчивались ошибкой, но не настолько высоко, чтобыВы испытываете проблемы с GC.Эту модификацию нужно будет постепенно настраивать и оценивать.

Tombstone_warn_threshold
Tombstone_failure_threshold

Теперь вы должны выполнить основное уплотнение (STCS, LCS для Cassandra 2.2+) или сбросить уровни для всех SSTables (LCS Cassandra <2.2) затронутыхТаблица. </p>

Если вам необходимо выполнить сброс, воспользуйтесь ссылкой ниже:

https://docs.datastax.com/en/cassandra/2.1/cassandra/tools/toolsSSTableLevelReset.html

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...