Обработка моделей ONNX / ML.NET с универсальными интерфейсами - PullRequest
Новая
       24

Обработка моделей ONNX / ML.NET с универсальными интерфейсами

2 голосов
/ 05 марта 2019

Я немного борюсь с проблемой, связанной с ML.NET, и надеюсь, что кто-то может мне помочь.

Я занимаюсь разработкой приложения (.NET core), которое использует модели ONNX, чьи входные данныенеизвестны во время компиляции.Что я сделал до сих пор:

Я могу скомпилировать сборку во время выполнения, которая содержит определение входного класса и загрузить это определение: 

        var genericSampleAssembly =
            AssemblyLoadContext.Default.LoadFromAssemblyPath("/app/storage/sample.dll");
        Type genericInputClass = genericSampleAssembly.GetType("GenericInterface.sample");

Также я могуобучаем модель этому динамически созданному типу ввода, используя Reflection: 

        MethodInfo genericCreateTextLoader = typeof(TextLoaderSaverCatalog).GetMethods()
            .Where(_ => _.Name == "CreateTextLoader")
            .Single(_ => _.GetParameters().Length == 6)
            .MakeGenericMethod(_genericInputClass);

        TextLoader reader = genericCreateTextLoader.Invoke(_mlContext.Data, new object[] { _mlContext.Data, false, ',', true, true, false}) as TextLoader;

        IDataView trainingDataView = reader.Read("sample.txt");
        var debug = trainingDataView.Preview();

        var pipeline = _mlContext.Transforms.Concatenate("Features", _featureNamesModel
            .AppendCacheCheckpoint(_mlContext)
            .Append(_mlContext.Regression.Trainers.StochasticDualCoordinateAscent(labelColumn: "Label",
                featureColumn: "Features")));

        ITransformer model = pipeline.Fit(trainingDataView);

Но я не могу сейчас делать прогнозы, потому что я не знаю, как вызвать PredictionEngine.Я могу получить универсальную версию этого метода CreatePredictionEngine, но не знаю, как привести этот возвращаемый объект к PredictionEngine и, наконец, вызвать метод Predict: 

        MethodInfo genericCreatePredictionEngineMethod = typeof(PredictionEngineExtensions).GetMethods()
            .Single(_ => _.Name == "CreatePredictionEngine")
            .MakeGenericMethod(new Type[] { genericInputClass, typeof(GenericPrediction)});

        var predictionEngine = genericCreatePredictionEngineMethod.Invoke(_model, new object[] {_model, _mlContext, null, null});

predictionEngine имеет тип объектав этом случае, но мне нужно привести его к чему-то вроде PredictionEngine<genericInputClass, GenericPrediction>, тогда как genericInputClass - это класс из этой динамически создаваемой сборки, а GenericPrediction - это простой класс с одним выводом, который я знаю во время компиляции.

Итак, чего не хватает, это что-то вроде: 

        MethodInfo genericCreatePredictionEngineMethod = typeof(PredictionEngineExtensions).GetMethods()
            .Single(_ => _.Name == "CreatePredictionEngine")
            .MakeGenericMethod(new Type[] { genericInputClass, typeof(GenericPrediction)});

        PredictionEngine<genericInputClass, GenericPrediction> predictionEngine = genericCreatePredictionEngineMethod.Invoke(_model, new object[] {_model, _mlContext, null, null}) as PredictionEngine<genericInputClass, GenericPrediction>;

        float prediction = predictionEngine.Predict(genericInputClass inputValue);

У кого-нибудь была подобная проблема или есть какие-то другие подсказки?

Я мог бы пропустить некоторые строки, потому что я скопировал / вставил и упростил это довольнобыстрый.На случай, если чего-то не хватает, я предоставлю это позже.

РЕДАКТИРОВАТЬ: я создал минимальный пример, чтобы показать основные проблемы.Как уже упоминалось в комментариях dynamic невозможно из-за методов ML.NET. 

using System;
using System.Linq;
using System.Runtime.Loader;


namespace ReflectionSample
{
    class Program
    {
        static void Main(string[] args)
        {
            // Example with a known Type
            var extendedClass = new DummyExtendedClass();
            SampleGenericClass<String> sampleGenericClass = extendedClass.SampleGenericExtensionMethod<String>();
            sampleGenericClass.SampleMethod("");

            // At compile time unknown Type - In reality the loaded dll is compiled during runtime
            var runtimeCompiledSampleAssembly =
                AssemblyLoadContext.Default.LoadFromAssemblyPath("C:/Program Files (x86)/Reference Assemblies/Microsoft/Framework/.NETCore/v4.5/System.IO.dll");
            var compileTimeUnknownClass = runtimeCompiledSampleAssembly.GetType("System.IO.TextReader");

            var reflectedExtensionMethod = typeof(Extensions).GetMethods()
                .Single(_=>_.Name== "SampleGenericExtensionMethod")
                .MakeGenericMethod(new[] {compileTimeUnknownClass});

            var howToCastThis = reflectedExtensionMethod.Invoke(extendedClass, new object[] {extendedClass});

            // whats missing:
            // howToCastThis is of Type object but should be SampleGenericClass<System.IO.TextReader>
            // I need to be able to call howToCastThis.SampleMethod(new System.IO.TextReader)
            // I thought this might work via reflecting SampleMethod and MakeGenericMethod

            Console.ReadKey();
        }
    }

    public sealed class SampleGenericClass<T>
    {
        public void SampleMethod(T typeInput)
        {
            Console.WriteLine($"Invoking method worked! T is of type {typeof(T)}");
        }
    }

    public static class Extensions
    {
        public static SampleGenericClass<T> SampleGenericExtensionMethod<T>(this DummyExtendedClass extendedClass)
        {
            Console.WriteLine($"Invoking extension method worked! T is of type {typeof(T)}");
            return new SampleGenericClass<T>();
        }
    }

    public class DummyExtendedClass
    {
        public DummyExtendedClass() { }
    }
}

Greetings Sven

1 Ответ

2 голосов
/ 07 марта 2019

Отличная работа на MCVE. Я смог вызвать SampleMethod; Оказывается, в этом нет ничего особенного, и, вероятно, это менее сложно, чем вы себе представляли.

В вашем примере объект, который вы получаете, howToCastThis, относится к типу, который уже близок к построению. Пока вы начинаете с типа этого экземпляра, вам не нужно использовать MakeGenericMethod.

Допустим, у вас есть экземпляр объекта, compileTimeTypeUnknownInstance, для параметра, который вы хотите передать SampleMethod. Поскольку System.IO.TextReader является абстрактным, compileTimeTypeUnknownInstance должен иметь конкретный тип TextReader. При соблюдении этих условий выполняются следующие работы: 

var sampleMethod = howToCastThis.GetType().GetMethods()
    .Single(mi => mi.Name == "SampleMethod");

sampleMethod.Invoke(howToCastThis, new object[] { compileTimeTypeUnknownInstance });

SampleMethod сообщает, что T имеет тип System.Text.TextReader.

Опять же, howToCastThis имеет тип с близким построением, поэтому, как и метод, который вы хотите.

Примечание: Хотя здесь и не так, метод в близко сконструированном типе может вводить дополнительные аргументы типа, поэтому вам все равно придется вызывать MakeGenericMethod, чтобы закрыть метод в этом случае.

Теперь, если бы я попытался перевести это в вашу ситуацию, я думаю, это выглядело бы примерно так: 

var predictMethod = predictionEngine.GetType().GetMethods()
    .Single(mi => mi.Name == "Predict");

float prediction = (float)predictMethod.Invoke(predictionEngine, new object[] { inputValue });

Я не уверен в синтаксисе вашего псевдокодового вызова для Predict. Я предположил, что inputValue был единственным параметром, а genericInputClass был только там, чтобы указать, что это был аргумент типа в закрытом типе. Если это неверно, вам нужно выяснить, что на самом деле входит в этот аргумент object[].

...