Линейная алгебра обеспечивает вычислительный движок для большинства алгоритмов машинного обучения.
Например, вероятно, наиболее заметным и наиболее частым применением ML является механизм рекомендаций.
Помимо извлечения данных, реальная суть этих алгоритмов часто заключается в «реконструкции» смехотворно редких данных, используемых в качестве входных данных для этих механизмов.Необработанные данные, предоставляемые пользовательскому R / E на основе Amazon.com, (вероятно) представляют собой массивную матрицу данных, в которой пользователи представляют собой строки, а их продукты представлены в столбцах.Поэтому, чтобы органически заполнить эту матрицу, каждый покупатель должен будет купить каждый продукт, который продает Amazon.com.Здесь используются методы, основанные на линейной алгебре.
Все используемые в настоящее время методы включают некоторый тип матричного разложения , фундаментальный класс методов линейной алгебры (например,, аппроксимация неотрицательной матрицы и аппроксимация положительной максимальной границы поля (предупреждающая ссылка на pdf!), Пожалуй, два наиболее распространенных)
ВтороеМногие, если не большинство методов ML, полагаются на метод численной оптимизации.Например, большинство контролируемых алгоритмов ML включают создание обученного классификатора / регрессора путем минимизации разницы между значением, вычисленным зарождающимся классификатором, и фактическим значением из обучающих данных.Это можно сделать либо итеративно, либо с использованием методов линейной алгебры.Если последнее, то метод обычно SVD или некоторый вариант.
В-третьих, спектральные разложения - PCA (анализ основных компонентов) и PCA ядра - возможно, наиболее часто используемые методы уменьшения размерности, часто применяемые на этапе предварительной обработки непосредственно перед алгоритмом ML в потоке данных, например, PCA частоиспользуется экземпляр в карте Кохонена для инициализации решетки.Принципиальное понимание этих методов заключается в том, что собственные векторы ковариационной матрицы (квадратная симметричная матрица с нулями по главной диагонали, составленная из исходной матрицы данных) имеют единичную длину и ортогональны друг другу.