Зажечь: как сохранить и перезагрузить обученную модель - PullRequest
Новая
       10

Зажечь: как сохранить и перезагрузить обученную модель

0 голосов
/ 31 января 2019

Ниже приведен фрагмент кода, который я использовал для обучения своей модели.После этого, как и где я могу сохранить свою модель и прочитать ее обратно, кроме класса FileExporter?это только в файле или я могу сохранить его в кеше и получить доступ обратно?

IgniteCache<Integer, double[]> cache = ignite.getOrCreateCache("MLData_IRIS");

// extracting   sepal length, sepal width, petal length, petal width
IgniteBiFunction<Integer, double[], Vector> featureExtractor = new RangeExtractor(1, 5);
IgniteBiFunction<Integer, double[], Double> labelExtractor = new PointExtractor(0);

System.out.println(">>> Create new training dataset splitter object.");
TrainTestSplit<Integer, double[]> split = new TrainTestDatasetSplitter<Integer, double[]>()
    .split(0.5, 0.5);

IgniteBiPredicate<Integer, double[]> testData = split.getTestFilter();
IgniteBiPredicate<Integer, double[]> trainData = split.getTrainFilter();

// Set up the trainer
KMeansTrainer trainer = new KMeansTrainer()
    .withDistance(new EuclideanDistance())  //other metrics are HammingDistance, ManhattanDistance
    .withAmountOfClusters(3) // number clusters want to create
    .withMaxIterations(100)
    .withEpsilon(1.0E-4D)
    .withSeed(1234L);

long t1 = System.currentTimeMillis();

KMeansModel mdl = trainer.fit(
    ignite,
    cache,
    trainData,
    featureExtractor,
    labelExtractor
);

long t2 = System.currentTimeMillis();
System.out.println("time taken to build the model : " + (t2 - t1) + " ms");

System.out.println(">>> --------------------------------------------");
System.out.println(">>> trained model: " + mdl.toString(true));

1 Ответ

0 голосов
/ 31 января 2019

Пока у Ignite есть только этот механизм - FileExporter.

Но для версии 2.8 мы уже реализовали хранилище модели.

Пример для сохранения модели: 

ModelStorage storage = new ModelStorageFactory().getModelStorage(ignite);
        storage.mkdirs("/");
        storage.putFile("/my_model", serializedMdl);

        ModelDescriptor desc = new ModelDescriptor(
            "MyModel",
            "My Cool Model",
            new ModelSignature("", "", ""),
            new ModelStorageModelReader("/my_model"),
            new IgniteModelParser<>()
        );
        ModelDescriptorStorage descStorage = new ModelDescriptorStorageFactory().getModelDescriptorStorage(ignite);
        descStorage.put("my_model", desc);

Образец для загрузки модели: 

Ignite ignite = Ignition.ignite();

        ModelDescriptorStorage descStorage = new ModelDescriptorStorageFactory().getModelDescriptorStorage(ignite);
        ModelDescriptor desc = descStorage.get(mdl);

        Model<byte[], byte[]> infMdl = new SingleModelBuilder().build(desc.getReader(), desc.getParser());

        Vector input = VectorUtils.of(x);

        try {
            return deserialize(infMdl.predict(serialize(input)));
        }
        catch (IOException | ClassNotFoundException e) {
            throw new RuntimeException(e);
        }

Где x - вектор двойных чисел, а mdl - имя модели.

ПРИМЕЧАНИЕ: этот APIбудет доступен с выпуском 2.8.Но вы можете попробовать это прямо сейчас, если соберете Ignite из главной ветки.

...