Почему Apache Ignite sys-thread занимает так много памяти? - PullRequest
0 голосов
/ 28 августа 2018

Информация об окружающей среде: В моем кластере есть два Linux-машины (8U 16G 64бит). И я включаю Ignite родную настойчивость. Память для offHeap составляет 3,2 Г . Версия Ignite: 2.6.0.

Информация об использовании: В кластере три кеша и только одна резервная копия. Всего около 100 000 записей. Номер нити повторного баланса равен 1.

Мой вопрос: Когда я выполняю sql "select *" повторно, возникает ошибка "out of memory". Я анализирую файл дампа с помощью MAT и обнаруживаю, что один поток занимает столько памяти. Затем я анализирую стек потоков и нахожу, что в методе воспламенения org.apache.ignite.internal.processors.cache.IgniteCacheOffheapManagerImpl.rebalanceIterator был создан treeMap, который стоит около 7G памяти ! Может кто-нибудь помочь мне решить проблему нехватки памяти?

JVM options:
-server 
-XX:MaxDirectMemorySize=512m 
-Xms10g -Xmx10g 
-XX:+AlwaysPreTouch 
-XX:+UseG1GC 
-XX:+AggressiveOpts 
-XX:+ScavengeBeforeFullGC 
-XX:+DisableExplicitGC 
-XX:+UseNUMA 
-XX:+PrintGCDetails 
-XX:+PrintGCTimeStamps 
-XX:+PrintGCDateStamps 
-XX:+PrintAdaptiveSizePolicy 
-XX:+UnlockDiagnosticVMOptions 
-XX:+G1PrintRegionLivenessInfo 
-XX:+PrintGCApplicationStoppedTime 
-XX:+PrintGCApplicationConcurrentTime 
-XX:G1ReservePercent=15 
-XX:InitiatingHeapOccupancyPercent=45 
-XX:+UseGCLogFileRotation 
-XX:NumberOfGCLogFiles=10 
-XX:GCLogFileSize=10M 
-XX:+HeapDumpOnOutOfMemoryError 
-XX:+ExitOnOutOfMemoryError 

|Name                                       | Shallow Heap | Retained Heap |Context Class Loader                                                |Is Daemon
-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
org.apache.ignite.thread.IgniteThread @ 0x5a0d32f20                                                                                                                                                                                                                                                                                                                                                    |sys-#86%paloma2[172.17.0.1#192.154.163.17]%|          136 | 7,234,644,440 |org.springframework.boot.loader.LaunchedURLClassLoader @ 0x5a0ba53b8|false
|- at java.lang.OutOfMemoryError.<init>()V (OutOfMemoryError.java:48)                                                                                                                                                                                                                                                                                                                                  |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.file.IgniteNativeIoLib.pread(ILcom/sun/jna/Pointer;Lcom/sun/jna/NativeLong;Lcom/sun/jna/NativeLong;)Lcom/sun/jna/NativeLong; (Native Method)                                                                                                                                                                                             |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.file.AlignedBuffersDirectFileIO.readIntoAlignedBuffer(Ljava/nio/ByteBuffer;J)I (AlignedBuffersDirectFileIO.java:347)                                                                                                                                                                                                                     |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.file.AlignedBuffersDirectFileIO.read(Ljava/nio/ByteBuffer;J)I (AlignedBuffersDirectFileIO.java:215)                                                                                                                                                                                                                                      |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.file.FilePageStore.read(JLjava/nio/ByteBuffer;Z)V (FilePageStore.java:351)                                                                                                                                                                                                                                                               |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.file.FilePageStoreManager.read(IJLjava/nio/ByteBuffer;Z)V (FilePageStoreManager.java:328)                                                                                                                                                                                                                                                |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.file.FilePageStoreManager.read(IJLjava/nio/ByteBuffer;)V (FilePageStoreManager.java:312)                                                                                                                                                                                                                                                 |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.pagemem.PageMemoryImpl.acquirePage(IJZ)J (PageMemoryImpl.java:779)                                                                                                                                                                                                                                                                       |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.pagemem.PageMemoryImpl.acquirePage(IJ)J (PageMemoryImpl.java:624)                                                                                                                                                                                                                                                                        |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.CacheDataRowAdapter.initFromLink(Lorg/apache/ignite/internal/processors/cache/CacheGroupContext;Lorg/apache/ignite/internal/processors/cache/GridCacheSharedContext;Lorg/apache/ignite/internal/pagemem/PageMemory;Lorg/apache/ignite/internal/processors/cache/persistence/CacheDataRowAdapter$RowData;)V (CacheDataRowAdapter.java:140)|                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.CacheDataRowAdapter.initFromLink(Lorg/apache/ignite/internal/processors/cache/CacheGroupContext;Lorg/apache/ignite/internal/processors/cache/persistence/CacheDataRowAdapter$RowData;)V (CacheDataRowAdapter.java:102)                                                                                                                   |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.tree.DataRow.<init>(Lorg/apache/ignite/internal/processors/cache/CacheGroupContext;IJILorg/apache/ignite/internal/processors/cache/persistence/CacheDataRowAdapter$RowData;)V (DataRow.java:54)                                                                                                                                                      |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.tree.CacheDataRowStore.dataRow(IIJLorg/apache/ignite/internal/processors/cache/persistence/CacheDataRowAdapter$RowData;)Lorg/apache/ignite/internal/processors/cache/persistence/CacheDataRow; (CacheDataRowStore.java:73)                                                                                                                           |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.tree.CacheDataTree.getRow(Lorg/apache/ignite/internal/processors/cache/persistence/tree/io/BPlusIO;JILjava/lang/Object;)Lorg/apache/ignite/internal/processors/cache/persistence/CacheDataRow; (CacheDataTree.java:146)                                                                                                                              |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.tree.CacheDataTree.getRow(Lorg/apache/ignite/internal/processors/cache/persistence/tree/io/BPlusIO;JILjava/lang/Object;)Ljava/lang/Object; (CacheDataTree.java:41)                                                                                                                                                                                   |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.tree.BPlusTree$ForwardCursor.fillFromBuffer(JLorg/apache/ignite/internal/processors/cache/persistence/tree/io/BPlusIO;II)Z (BPlusTree.java:4660)                                                                                                                                                                                         |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.tree.BPlusTree$ForwardCursor.init(JLorg/apache/ignite/internal/processors/cache/persistence/tree/io/BPlusIO;I)V (BPlusTree.java:4562)                                                                                                                                                                                                    |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.tree.BPlusTree$ForwardCursor.access$5300(Lorg/apache/ignite/internal/processors/cache/persistence/tree/BPlusTree$ForwardCursor;JLorg/apache/ignite/internal/processors/cache/persistence/tree/io/BPlusIO;I)V (BPlusTree.java:4501)                                                                                                       |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.tree.BPlusTree.findLowerUnbounded(Ljava/lang/Object;Ljava/lang/Object;)Lorg/apache/ignite/internal/util/lang/GridCursor; (BPlusTree.java:927)                                                                                                                                                                                            |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.tree.BPlusTree.find(Ljava/lang/Object;Ljava/lang/Object;Ljava/lang/Object;)Lorg/apache/ignite/internal/util/lang/GridCursor; (BPlusTree.java:959)                                                                                                                                                                                        |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.tree.BPlusTree.find(Ljava/lang/Object;Ljava/lang/Object;)Lorg/apache/ignite/internal/util/lang/GridCursor; (BPlusTree.java:950)                                                                                                                                                                                                          |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.IgniteCacheOffheapManagerImpl$CacheDataStoreImpl.cursor()Lorg/apache/ignite/internal/util/lang/GridCursor; (IgniteCacheOffheapManagerImpl.java:1483)                                                                                                                                                                                                 |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.persistence.GridCacheOffheapManager$GridCacheDataStore.cursor()Lorg/apache/ignite/internal/util/lang/GridCursor; (GridCacheOffheapManager.java:1555)                                                                                                                                                                                                 |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.IgniteCacheOffheapManagerImpl.reservedIterator(ILorg/apache/ignite/internal/processors/affinity/AffinityTopologyVersion;)Lorg/apache/ignite/internal/util/lang/GridCloseableIterator; (IgniteCacheOffheapManagerImpl.java:839)                                                                                                                       |                                           |              |               |                                                                    |
|- at org.apache.ignite.internal.processors.cache.IgniteCacheOffheapManagerImpl.rebalanceIterator(Lorg/apache/ignite/internal/processors/cache/distributed/dht/preloader/IgniteDhtDemandedPartitionsMap;Lorg/apache/ignite/internal/processors/affinity/AffinityTopologyVersion;)Lorg/apache/ignite/internal/processors/cache/IgniteRebalanceIterator; (IgniteCacheOffheapManagerImpl.java:882)        |                                           |              |               |                                                                    |
|  |- <local> org.apache.ignite.internal.processors.cache.persistence.GridCacheOffheapManager @ 0x5a0d33368                                                                                                                                                                                                                                                                                            |                                           |           64 |         1,648 |                                                                    |
|  |- <local> org.apache.ignite.internal.processors.cache.distributed.dht.preloader.IgniteDhtDemandedPartitionsMap @ 0x5a0d33408                                                                                                                                                                                                                                                                       |                                           |           24 |            24 |                                                                    |
|  |- <local> org.apache.ignite.internal.processors.affinity.AffinityTopologyVersion @ 0x5a0d33420                                                                                                                                                                                                                                                                                                     |                                           |           24 |            24 |                                                                    |
|  |- <local>java.util.TreeMap @ 0x5a0d33438                                                                                                                                                                                                                                                                                                                                                          |                                           |           48 | 7,227,513,912 |                                                                    |
|  |- <local> java.util.HashSet @ 0x5a0d33468                                                                                                                                                                                                                                                                                                                                                          |                                           |           16 |            64 |                                                                    |
|  |- <local> java.util.Collections$UnmodifiableCollection$1 @ 0x5a0d33478                                                                                                                                                                                                                                                                                                                             |                                           |           24 |            80 |                                                                    |
|  |- <local> java.lang.Integer @ 0x5ad5cd658  354                                                                                                                                                                                                                                                                                                                                                     |                                           |           16 |            16 |                                                                    |
-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

Подсказки: древовидная карта создается в следующем коде

    /** {@inheritDoc} */
    @Override public IgniteRebalanceIterator rebalanceIterator(IgniteDhtDemandedPartitionsMap parts,
        final AffinityTopologyVersion topVer)
        throws IgniteCheckedException {

        final TreeMap<Integer, GridCloseableIterator<CacheDataRow>> iterators = new TreeMap<>();

        Set<Integer> missing = new HashSet<>();

        for (Integer p : parts.fullSet()) {
            GridCloseableIterator<CacheDataRow> partIter = reservedIterator(p, topVer);

            if (partIter == null) {
                missing.add(p);

                continue;
            }

            iterators.put(p, partIter);
        }

        IgniteHistoricalIterator historicalIterator = historicalIterator(parts.historicalMap(), missing);

        IgniteRebalanceIterator iter = new IgniteRebalanceIteratorImpl(iterators, historicalIterator);

        for (Integer p : missing)
            iter.setPartitionMissing(p);

        return iter;
    }

1 Ответ

0 голосов
/ 28 августа 2018

Похоже, что в кластере параллельно выполнялись select * запросы.

Перебалансировка - это процесс, который перемещает разделы между узлами для достижения настроенного коэффициента резервного копирования. Все перебалансированные данные проходят через кучу, поэтому они могут быть загрязнены во время этого процесса. Вы можете прочитать об этом здесь: https://apacheignite.readme.io/docs/rebalancing

Перебалансирование может отслеживаться соответствующими сообщениями в журнале или ожиданием будущего, возвращаемого методом IgniteCache # rebalance () .

select * также является довольно трудоемкой операцией, так как требует, чтобы все данные были загружены в один узел.

Использование ленивых запросов может помочь в этой ситуации. Вы можете включить этот флаг либо в строке соединения JDBC , либо в качестве свойства SqlFieldQuery # lazy .

...