Как оценить объем ОЗУ, который понадобится Encog для обучения конкретной сети с конкретным набором выборок по алгоритму Левенберга-Марквардта? - PullRequest
1 голос
/ 27 марта 2012

Я изучаю фреймворк нейронных сетей Encog (версии 3.0 и 3.1 для Java) и хотел бы попробовать алгоритм Левенберга – Марквардта при обучении нейронной сети.Однако мои настоящие нейронные сети довольно сложны (с сотнями входных нейронов), и ни одна (я упростил с десятков тысяч до 136) сеть, по-видимому, не может быть обучена с помощью Левенберга – Марквардта (говоря, что нетдостаточно памяти, пока я посвящаю 2 GiBs JVM).Но он работает очень хорошо, когда я пытаюсь выполнить простое синтетическое задание с простой (всего 3 входными нейронами) сетью.

Вопрос в том, как мне оценить объем памяти, который потребуется Encog для обучения конкретной сети.конкретный набор образцов с алгоритмом Левенберга-Марквардта?Как я могу догадаться, какую максимальную сложность можно уместить в 2 ГиБ (на реальной машине их 4, но JVM, похоже, не может выделить больше 2)?

1 Ответ

5 голосов
/ 27 марта 2012

Я бы попробовал маленький размер, определил, сколько памяти он использует, и продолжал бы удваивать размер, пока не увидишь шаблон. то есть, линейный или суперлинейный.

Кстати: мой телевизор имеет 4 ГБ памяти, возможно, пришло время получить больше памяти, если вам это нужно. ;)

...