Сопоставление потоков Java

Question

У меня очень большой поток версионных документов, упорядоченный по идентификатору и версии документа.

Например, Av1, Av2, Bv1, Cv1, Cv2

Я должен преобразовать это в другой поток, записи которогоагрегируются по номеру документа.

A [v1, v2], B [v1], C [v1, V2]

Можно ли это сделать без использования Collectors.groupBy()?Я не хочу использовать groupBy(), потому что он загрузит все элементы в потоке в память перед их группировкой.Теоретически нет необходимости загружать весь поток в память, поскольку он упорядочен.

Answer 1

Вот решение, которое я нашел:

    Stream<Document> stream = Stream.of(
            new Document("A", "v1"),
            new Document("A", "v2"),
            new Document("B", "v1"),
            new Document("C", "v1"),
            new Document("C", "v2")
    );

    Iterator<Document> iterator = stream.iterator();
    Stream<GroupedDocument> result = Stream.generate(new Supplier<GroupedDocument>() {

        Document lastDoc = null;
        @Override
        public GroupedDocument get() {
            try {
                Document doc = Optional.ofNullable(lastDoc).orElseGet(iterator::next);

                String id = doc.getId();
                GroupedDocument gd = new GroupedDocument(doc.getId());
                gd.getVersions().add(doc.getVersion());

                if (!iterator.hasNext()) {
                    return null;
                }

                while (iterator.hasNext() && (doc = iterator.next()).getId().equals(id)) {
                    gd.getVersions().add(doc.getVersion());
                }
                lastDoc = doc;
                return gd;
            } catch (NoSuchElementException ex) {
                return null;
            }
        }
    });

Вот классы Document и GroupedDocument:

class Document {
    private String id;
    private String version;

    public Document(String id, String version) {
        this.id = id;
        this.version = version;
    }

    public String getId() {
        return id;
    }

    public String getVersion() {
        return version;
    }
}

class GroupedDocument {
    private String id;
    private List<String> versions;

    public GroupedDocument(String id) {
        this.id = id;
        versions = new ArrayList<>();
    }

    public String getId() {
        return id;
    }

    public List<String> getVersions() {
        return versions;
    }

    @Override
    public String toString() {
        return "GroupedDocument{" +
                "id='" + id + '\'' +
                ", versions=" + versions +
                '}';
    }
}

Обратите внимание, что результирующий поток является бесконечным потоком,После всех групп будет бесконечное число null с.Вы можете взять все элементы, которые не равны NULL, используя takeWhile в Java 9, или посмотреть это post .

Answer 2

Вы можете использовать groupRuns в библиотеке StreamEx для этого:

class Document {
    public String id;
    public int version;
    public Document(String id, int version) {
        this.id = id;
        this.version = version;
    }
    public String toString() {
        return "Document{"+id+version+ "}";
    }
}

public class MyClass {
    private static List<Document> docs = asList(
        new Document("A", 1),
        new Document("A", 2),
        new Document("B", 1),
        new Document("C", 1),
        new Document("C", 2)
    );

    public static void main(String args[]) {
        StreamEx<List<Document>> groups = StreamEx.of(docs).groupRuns((l, r) -> l.id.equals(r.id));
        for (List<Document> grp: groups.collect(toList())) {
            out.println(grp);
        }
    }
}

который выводит:

[Документ {A1}, Документ {A2}]
[Документ {В1}]
[Документ {C1}, Документ {C2}]

Я не могу убедиться, что это не использует весь поток, но я не могу себе представить, почему ему нужно было бы указать, что groupRuns предназначается для этого.

Answer 3

Map<String, Stream<String>> поможет вам с тем, что вам нужно?

A - v1, v2B - v1
C - v1, v2

 String[] docs = { "Av1", "Av2", "Bv1", "Cv1", "Cv2"};
 Map<String, Stream<String>> map = Stream.<String>of(docs).
         map(s ->s.substring(0, 1)).distinct().                      //leave only A B C
            collect(Collectors.toMap( s1 -> s1,                      //A B C as keys
                                      s1 ->Stream.<String>of(docs).  //value is filtered stream of docs
                                        filter(s2 -> s1.substring(0, 1).
                                          equals(s2.substring(0, 1)) ).
                                            map(s3 -> s3.substring(1, s3.length())) //trim A B C
                                     ));