Инструменты для регрессии разреженных наименьших квадратов

Question

Я хочу сделать регрессию разреженных квадратов (несколько тысяч элементов) методом наименьших квадратов с несколькими сотнями тысяч примеров. Я рад использовать необычную оптимизацию - стохастический градиентный спуск в порядке.

Кто-нибудь знает о каком-либо программном обеспечении, уже реализованном для этого, поэтому мне не нужно писать самостоятельно?

С уважением.

Answer 1

Хотя я не знаю наверняка, это кажется мне тем, что LAPACK (пакет линейной алгебры) сможет обеспечить поддержку. Они, как правило, заинтересованы в математике больших матриц, включая разреженные матрицы и размеры вне ядра. Базовая версия - FORTRAN, но есть порты библиотек для C и других языков.

Поскольку LAPACK использует BLAS (базовые подпрограммы линейной алгебры) для многих базовых вызовов, вы, вероятно, также захотите проверить Разреженный BLAS .

Answer 2

Я уверен, что пакет R может быть использован для подобных задач Это невероятно мощный и гибкий. С этой страницы связано множество онлайн-ресурсов.

Answer 3

Я бы посоветовал взглянуть на LAPACK . Это довольно зрелая библиотека линейной алгебры, хотя взаимодействие с ней может быть немного сложнее, поскольку написано на фортране. Это нормально, так как Fortran совместим с ABI с C, если вы правильно сделали прототипы своих функций.

[Редактировать] При дальнейшем рассмотрении выясняется, что LAPACK не поддерживает разреженные матрицы. Для некоторых целей он может обрабатывать полосчатые матрицы, но для линейной задачи наименьших квадратов он поддерживает только общие матрицы.