Kafka - Не удалось очистить журнал для __consumer_offsets-10 в каталоге - PullRequest
0 голосов
/ 18 июня 2020

Я вижу следующее исключение в одном из файлов журнала брокера. Настроены: 3 брокера

Я могу удалить файлы c: \ tmp в каталоге. Однако мало любопытно, почему этот брокер попал в такое состояние.

log4j:ERROR Failed to rename [C:\confluent-5.5.0/logs/log-cleaner.log] to [C:\confluent-5.5.0/logs/log-cleaner.log.2020-06-18-09].     

[2020-06-18 14: 10: 41,361] ОШИБКА Не удалось очистить журнал для __consumer_offsets-10 в каталоге C: \ tmp \ kafka-logs-3 из-за исключения IOException (kafka .s erver.LogDirFailureChannel)
java .nio.file.FileSystemException: C: \ tmp \ kafka-logs-3__consumer_offsets-10 \ 00000000000000000000.timeindex.cleaned -> C: \ tmp \ kafka- log s-3__consumer_offsets-10 \ 00000000000000000000.timeindex.swap: Процесс не может получить доступ к файлу, поскольку он используется другим процессом.

    at sun.nio.fs.WindowsException.translateToIOException(WindowsException.java:86)                                                
    at sun.nio.fs.WindowsException.rethrowAsIOException(WindowsException.java:97)                                                  
    at sun.nio.fs.WindowsFileCopy.move(WindowsFileCopy.java:387)                                                                   
    at sun.nio.fs.WindowsFileSystemProvider.move(WindowsFileSystemProvider.java:287)                                               
    at java.nio.file.Files.move(Files.java:1395)                                                                                   
    at org.apache.kafka.common.utils.Utils.atomicMoveWithFallback(Utils.java:834)                                                  
    at kafka.log.AbstractIndex.renameTo(AbstractIndex.scala:207)                                                                   
    at kafka.log.LogSegment.changeFileSuffixes(LogSegment.scala:497)                                                               
    at kafka.log.Log.$anonfun$replaceSegments$4(Log.scala:2288)                                                                    
    at kafka.log.Log.$anonfun$replaceSegments$4$adapted(Log.scala:2288)                                                            
    at scala.collection.immutable.List.foreach(List.scala:392)                                                                     
    at kafka.log.Log.replaceSegments(Log.scala:2288)                                                                               
    at kafka.log.Cleaner.cleanSegments(LogCleaner.scala:605)                                                                       
    at kafka.log.Cleaner.$anonfun$doClean$6(LogCleaner.scala:530)                                                                  
    at kafka.log.Cleaner.doClean(LogCleaner.scala:529)                                                                             
    at kafka.log.Cleaner.clean(LogCleaner.scala:503)                                                                               
    at kafka.log.LogCleaner$CleanerThread.cleanLog(LogCleaner.scala:372)                                                           
    at kafka.log.LogCleaner$CleanerThread.cleanFilthiestLog(LogCleaner.scala:345)                                                  
    at kafka.log.LogCleaner$CleanerThread.tryCleanFilthiestLog(LogCleaner.scala:325)                                               
    at kafka.log.LogCleaner$CleanerThread.doWork(LogCleaner.scala:314)                                                             
    at kafka.utils.ShutdownableThread.run(ShutdownableThread.scala:96)                                                             
    Suppressed: java.nio.file.FileSystemException: C:\tmp\kafka-logs-3\__consumer_offsets-10\00000000000000000000.timeindex.cleaned

-> C: \ tmp \ kafka-logs-3__consumer_offsets-10 \ 00000000000000000000.timeindex.swap: процесс не может получить доступ к файлу, потому что он используется другим процессом.

            at sun.nio.fs.WindowsException.translateToIOException(WindowsException.java:86)                                        
            at sun.nio.fs.WindowsException.rethrowAsIOException(WindowsException.java:97)                                          
            at sun.nio.fs.WindowsFileCopy.move(WindowsFileCopy.java:301)                                                           
            at sun.nio.fs.WindowsFileSystemProvider.move(WindowsFileSystemProvider.java:287)                                       
            at java.nio.file.Files.move(Files.java:1395)                                                                           
            at org.apache.kafka.common.utils.Utils.atomicMoveWithFallback(Utils.java:831)                                          
            ... 15 more                                                                                                            

[2020-06-18 14: 10: 41,441] ПРЕДУПРЕЖДЕНИЕ [ReplicaManager broker = 3] Остановка обслуживания реплик в каталоге C: \ tmp \ kafka-logs-3 (kafka.server. ReplicaMana ger)
[2020-06-18 14: 10: 41,445] ИНФОРМАЦИЯ [ReplicaFetcherManager на брокере 3] Удален сборщик для набора разделов (__ consumer_offsets-22, __consumer _offsets-4, stock-price-2, __consumer_offsets-7, __consumer_offsets-46, stock-price-1, __consumer_offsets-25, __consumer_offsets-49, __consumer_offsets-16, __consumer_offsets-28, __consumer_offsets-31, __consumer_offsets-37, stock-price-0, __topsumer_offsets_counts - * 10, ksumer_offsets 0, __consumer_offsets-13, __consumer_offsets-43, __consumer_offsets-1, __consumer_offsets-34, __consumer_offsets-10, __consumer_offsets-40) (kafka.server.ReplicaFetcherManager)
[2020-06-18 1448] [ReplicaAlterLogDirsManager на брокере 3] Удален сборщик для набора разделов (__ consumer_offsets-22, __con sumer_offsets-4, stock-price-2, __consumer_offsets-7, __consumer_offsets-46, stock-pric es-1, __consumer_offsets-25, __consumer_offsets -49, __consumer_offsets-16, __consumer_offsets-28, __consumer_offsets-31, __consumer_offsets-37, stock-price-0, __consumer_offsets_19, stock_consumer_offsets, __consumer_offsets_consumer_offsets c -sumer_offsets__ -43, __consumer_offsets-1, __consumer_offsets-34, __consumer_offsets-10, __con sumer_offsets-40) (kafka.server.ReplicaAlterLogDirsManager)
[2020-06-18 14: 10: 41,492] WARN [ReplicaManager] Брокер 3 остановлен сборщик для разделов __consumer_offsets-22, __ consumer_offse ts-4, stock-price-2, __ consumer_offsets-7, __ consumer_offsets-46, stock-price-1, __ consumer_offsets-25, __ consumer_offsets-49, __ consumer_of fsets-16, __ consumer_offsets-28 , __ consumer_offsets-31, __ consumer_offsets-37, stock-price-0, __ consumer_offsets-19, stock_topi c -0, __ потребитель r_offsets-13, __ consumer_offsets-43, __ consumer_offsets-1, __ consumer_offsets-34, __ consumer_offsets-10, __ consumer_offsets-40, __ consumer_offsets и перестал перемещать журналы для разделов, потому что они находятся в журнале сбоев каталог C: \ tmp \ kafka-logs-3. (kafka.server.ReplicaManager)
[2020-06-18 14: 10: 41,494] ПРЕДУПРЕЖДЕНИЕ Остановка обслуживания журналов в каталоге C: \ tmp \ kafka-logs-3 (kafka.log.LogManager)
[2020-06-18 14: 10: 41,576] ОШИБКА Завершение работы брокера, так как все каталоги журналов в C: \ tmp \ kafka-logs-3 не работают (kafka.log.LogManager)

...