Ускорить вставки в базу данных с таблицей +47 миллионов данных в год, содержащих более 10 лет? - PullRequest
0 голосов
/ 16 ноября 2011

Я перемещаю свою базу данных в mysql, но есть одна довольно большая таблица (более 47 миллионов строк в год), и для вставки всех данных требуются годы.

Я уже перепробовал все, что нашел на форуме: разбиение на разделы, индексирование, полный текст ... и это правда, работает лучше, но далеко не эффективно.

Для получения дополнительной информации: База данных о гидрологических данных, зарегистрированных за последние десять лет. В моей базе данных есть три таблицы: одна содержит объекты для сохранения, другая для сохранения датчиков каждого объекта, а последняя и та, которая вызывает большую проблему, - это где я ежечасно храню всю информацию, собранную для каждого датчика (эта таблица будет содержать 47 миллионов данных за каждый год в базе данных)

Можно ли выполнить вставку менее чем за 10 часов?

Большое спасибо!

Обновление:

что я пытаюсь сделать (потому что это проще) - это перенести данные из нашей пользовательской базы данных (которая основана на файловой системе, с пользовательскими двоичными файлами) в стандартную базу данных SQL. Истинный источник информации исходит от нашего программного обеспечения, и это данные, размещенные в памяти: в программе имеется большой набор объектов, в которых мы храним векторы даты / значения, которые могут быть огромными в зависимости от обработки (потому что мы можем выберите любой startDate и endDate). Мы хотим хранить почасовые данные. Это будет конечной целью базы данных SQL.

1 Ответ

0 голосов
/ 16 ноября 2011

Не уверен, в какой базе данных или в каком формате сейчас находятся ваши данные, но самый быстрый способ импорта в MySQL - это синтаксис LOAD DATA INFILE - http://dev.mysql.com/doc/refman/5.1/en/load-data.html - по моему опыту, это намного быстрее, чем любой другой способтолько практичным способом для любого большого объема данных.

Я думаю, что вам лучше всего делать это в сочетании с другими методами, которые вы пробовали (отключение всех индексов, ключей и т. д.). Эта ссылка тоже может пригодиться.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...