Я пытаюсь реализовать сбор данных изменений в Java, используя слот репликации и потоковый API postgresql.
Я столкнулся с необычной проблемой разрыва соединения. Вот простой код, который я использую:
Properties dbConfig = new Properties();
dbConfig.put(USER_PROPERTY, "postgres");
dbConfig.put(PASSWORD_PROPERTY, "password123");
dbConfig.put(MIN_SERVER_VERSION_PROPERTY, "9.6");
dbConfig.put(REPLICATION_PROPERTY, "database");
dbConfig.put(PREFER_QUERY_MODE_PROPERTY, "simple");
String url = "jdbc:postgresql://hostname:5432/hot";
Connection conn = DriverManager.getConnection(url, dbConfig);
PGConnection replConnection = conn.unwrap(PGConnection.class);
PGReplicationStream stream = replConnection.getReplicationAPI()
.replicationStream().logical()
.withSlotName("replication_slot3")
.withSlotOption("include-xids", true)
.withSlotOption("include-timestamp", "on")
.withSlotOption("skip-empty-xacts", true)
.withStatusInterval(20, TimeUnit.MILLISECONDS).start();
while (true) {
ByteBuffer msg = stream.read();
if (msg == null) {
TimeUnit.MILLISECONDS.sleep(10L);
continue;
}
int offset = msg.arrayOffset();
byte[] source = msg.array();
int length = source.length - offset;
String data = new String(source, offset, length);
* //System.out.println(data);*
stream.setAppliedLSN(stream.getLastReceiveLSN());
stream.setFlushedLSN(stream.getLastReceiveLSN());
}
Здесь, если я прокомментирую " System.out.println (data) ;" (который просто печатает
данные в консоли),
подключение к базе данных обрывается в течение нескольких секунд, и дать мне это
вид ошибки:
Exception in thread "main" org.postgresql.util.PSQLException: Database connection failed when reading from copy
at org.postgresql.core.v3.QueryExecutorImpl.readFromCopy(QueryExecutorImpl.java:1037)
at org.postgresql.core.v3.CopyDualImpl.readFromCopy(CopyDualImpl.java:41)
at org.postgresql.core.v3.replication.V3PGReplicationStream.receiveNextData(V3PGReplicationStream.java:155)
at org.postgresql.core.v3.replication.V3PGReplicationStream.readInternal(V3PGReplicationStream.java:124)
at org.postgresql.core.v3.replication.V3PGReplicationStream.readPending(V3PGReplicationStream.java:78)
at py.com.personal.kafka.PgStreamProducer.pushToKafka(PgStreamProducer.java:40)
at py.com.personal.App.main(App.java:42)
Caused by: java.net.SocketException: Connection reset
at java.net.SocketInputStream.read(SocketInputStream.java:210)
at java.net.SocketInputStream.read(SocketInputStream.java:141)
at org.postgresql.core.VisibleBufferedInputStream.readMore(VisibleBufferedInputStream.java:140)
at org.postgresql.core.VisibleBufferedInputStream.ensureBytes(VisibleBufferedInputStream.java:109)
at org.postgresql.core.VisibleBufferedInputStream.read(VisibleBufferedInputStream.java:191)
at org.postgresql.core.PGStream.receive(PGStream.java:462)
at org.postgresql.core.PGStream.receive(PGStream.java:446)
at org.postgresql.core.v3.QueryExecutorImpl.processCopyResults(QueryExecutorImpl.java:1170)
at org.postgresql.core.v3.QueryExecutorImpl.readFromCopy(QueryExecutorImpl.java:1035)
... 6 more
Я исследовал некоторые конфигурации и изменил несколько таких, но безрезультатно:
Настройки сети JVM
Вы можете передать эти два мощных сетевых свойства времени ожидания, которые могут быть глобально применимы ко всем обработчикам протоколов, которые используют java.net.URLConnection:
conn.setNetworkTimeout(Executors.newSingleThreadExecutor(), 60000);
PGProperty.CONNECT_TIMEOUT.set(props, 0);
PGProperty.SOCKET_TIMEOUT.set(props, 0);
PGProperty.CANCEL_SIGNAL_TIMEOUT.set(props, 3600);