Необходимые условия для чтения книг в нейронных сетях (и понимания их)

Question

Я уже некоторое время пытаюсь узнать о нейронных сетях, и я могу понять некоторые основные учебные пособия онлайн, и я смог пройтись по частям Neural Computing - введение , но даже там, я смотрю на математику, и она становится полностью над моей головой после первых нескольких глав. Даже тогда его наименее книга "математика" я могу найти.

Дело не в том, что я боюсь математики или чего-то еще, просто я не узнал, что мне нужно, и я не уверен, что именно мне нужно. В настоящее время я зачислен в мой местный университет, работаю над тем, чтобы наверстать упущенное на занятиях, которые мне нужны, чтобы поступить в MS в Comp. Научная программа (мой бакалавр в области бизнеса / информации. Системный.), И я не продвинулся слишком далеко. Согласно небольшому описанию курса университета, NN фактически включены в курс электротехники по распознаванию образов (мне кажется странным, что этот курс EE), в котором есть несколько требований EE, которые мне не нужны, чтобы попасть в MS Comp , Sci. Программа.

Мне чрезвычайно интересна эта тема, и я знаю, что в конечном итоге хочу узнать о ней намного больше, проблема в том, что я не знаю, что мне нужно знать в первую очередь. Вот темы, которые, я думаю, мне могут понадобиться, но это всего лишь предположение по незнанию:

• Исчисление одной переменной (у меня были Calc I и II, так что я думаю, что я здесь описан, просто для полноты списка)
• Исчисление нескольких переменных
• Линейная алгебра (я еще не принял это формально, но на самом деле могу понять многие концепции из того, что мне удалось внедрить в Википедии и на других сайтах)
• Дискретная математика (Другой, который я не воспринял формально, но изучил часть самостоятельно
• Теория графов
• Теория вероятностей
• Байесовская статистика
• Схема
• Другие математики?
• Другие темы по компьютерным наукам

Очевидно, что здесь есть и компонент нейробиологии, но у меня на самом деле не было проблем с пониманием книг, когда они говорят об этом применительно к NN, в основном потому, что это концептуально

Короче говоря, может ли кто-нибудь изложить полупрозрачный путь, который нужно действительно понять, прочитать книгу и в конечном итоге внедрить нейронные сети?

Answer 1

Если вам нужен список курсов колледжа, которые вам понадобятся для понимания книги, вот она:

• Исчисление (I, II и III)
• Дифференциальные уравнения
• линейная алгебра
• Статистика (или хорошее покрытие Байеса)

Тем не менее, я отлично учился в NN классах без Diff. Eq. и просто пришлось искать понятия, которые я еще не изучал.

Вы можете использовать подход черного ящика, как указано выше, но если вы действительно хотите понять математику и реализацию сетей, вам придется изучить. Это будет крутая кривая обучения, чтобы полностью охватить более продвинутые сети, независимо от того, что вы делаете. Вы можете сначала взять вышеуказанные классы или начать читать книгу и найти все, что вы не понимаете в википедии, а затем из этих статей прочитать все, что вам нужно прочитать, чтобы понять их, и т. Д. в любом случае, вы в конечном итоге пройдете этот начальный взгляд, и все станет проще.

Было бы хорошо, если бы вы сказали нам, почему вы хотите изучать нейронные сети. Я не нашел ни одного использования для них в своей профессиональной карьере, хотя я не разработчик игр или телекоммуникационный разработчик.

Answer 2

У меня вторая идея от zvrba, что вы поставили перед собой четкую цель. Несколько наводящих вопросов: а. Вы хотите изучать NNs как модель биологических сетей или как вычислительный инструмент? б. Вы заинтересованы в их аспекте обучения? ассоциативная память? обработка сигнала? с. Вы хотите понять сложную теорию? или достаточно просто написать программное обеспечение для моделирования?

Кроме того, я бы начал с малого: внедрите персептрон на вашем любимом языке программирования. Математика не так уж плоха, и она, вероятно, сосредоточит вас на ваших следующих шагах. Используйте набор данных двоичной классификации, скажем, Tic-Tac-Toe Endgame UCI .

Answer 3

Вы не можете реализовать «нейронные сети» - вы в конечном итоге внедрите особый вид NN (например, персептрон). Существует много разных типов NN, каждый из которых более подходит для какого-то конкретного вида задач, и каждый вид использует некоторые математические (и не только математические) концепции, которые относятся только к этому конкретному виду. Например, машины Больцмана используют понятия из статистической термодинамики (основанной Больцманом).

Что касается вашего вопроса: без ясной цели не может быть ясного (даже «полуочищенного») пути.

Answer 4

Для базовых нейросетей с обратной прокачкой наиболее важными являются:

• Исчисление

• Линейная алгебра

• Базовая статистика / вероятность

Если вы просто ищете более конкретные темы (вы сказали, что уже взяли Calc, поэтому я опущу это), вот некоторые предметы, которые будет полезно знать, если они не обязательно имеют непосредственное отношение к построению нейронной сети. :

• Решение линейных систем уравнений (вы изучите это в курсе линейной алгебры)

• Регрессия наименьших квадратов

• Теория оптимизации

Вы должны понимать, что есть несколько других методов, которые можно использовать для решения определенных проблем наряду с нейронными сетями.

Часто наиболее сложным аспектом решения проблемы является определение наилучшего метода для использования.

Answer 5

, хотя я отвечаю на него в 2018 году, но я думаю, что это поможет многим новичкам, которые пытаются изучить нейронную сеть. Все материалы онлайн-курса, доступные в Интернете, предполагают, что читатель обладает высоким уровнем математических знаний или опыта. Есть книга Тарика Рашида «СДЕЛАЙ СВОЙ СОБСТВЕННЫЙ НЕЙРОННЫЙ СЕТЬ». Он ожидает, что читатель имеет знания математики в старшей школе. это все . к концу книги вы сможете создать программу, которая будет читать ваш почерк.