InboundChannelAdapter получает один и тот же файл несколько раз с s3 - PullRequest
Новая
       12

InboundChannelAdapter получает один и тот же файл несколько раз с s3

0 голосов
/ 31 октября 2018

У меня InboundChannelAdapter , настроенный с S3StreamingMessageSource . Я заставил Poller использовать taskExecutor только с 1 потоком. Но я вижу, что один и тот же файл принимается одним и тем же потоком 3 раза с интервалом 3-4 секунды. Хотя интервал опроса составляет 10 секунд. Я указал составной фильтр, который состоит из шаблонного фильтра и acceptoncefilter. Но безрезультатно, файл всегда берется 3 раза. 

String prefix = "some_prefix";
String channel = "some_channel"
Pattern filePattern = Pattern.compile(
            "^" + prefix + "some_file_name_pattern");
@Bean
@InboundChannelAdapter(value = channel,
        poller = @Poller(fixedDelay = "10000", taskExecutor = "threadPoolTaskExecutor"))
public MessageSource<InputStream> createS3InboundStreamingMessageSource() {
    S3StreamingMessageSource messageSource = new S3StreamingMessageSource(template());
    messageSource.setRemoteDirectory(bucketName);
    CompositeFileListFilter<S3ObjectSummary> compositeFileListFilter = new ChainFileListFilter<>();
    compositeFileListFilter.addFilter(new S3PersistentAcceptOnceFileListFilter(
            new SimpleMetadataStore(), prefix));
    compositeFileListFilter.addFilter(new S3RegexPatternFileListFilter(filePattern));
    messageSource.setFilter(compositeFileListFilter);
    return messageSource;
}

@Transformer(inputChannel = channel,"another_channel")
public Message<S3ObjectInputStream> enrich(Message<S3ObjectInputStream> s3ObjectInputStreamMessage) {
    S3ObjectInputStream s3ObjectInputStream = s3ObjectInputStreamMessage.getPayload();
    URI zipUri = s3ObjectInputStream.getHttpRequest().getURI();
    LOGGER.info("Picking up file : {}", zipUri.getPath());
    ...
}

 private S3RemoteFileTemplate template() {
    S3SessionFactory sessionFactory = new S3SessionFactory(amazonS3);
    return new S3RemoteFileTemplate(sessionFactory);
}

@Bean
public TaskExecutor threadPoolTaskExecutor() {
    ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
    executor.setMaxPoolSize(1);
    executor.setThreadNamePrefix("single_thread_task_executor");
    executor.initialize();
    return executor;
}

Я вижу, что приложение приходит в @Transformer 3 раза. Буду очень признателен за любую помощь.

...