Меньше математических подходов к машинному обучению?

Question

Из любопытства я немного прочитал об области машинного обучения, и меня удивляет количество вычислений и математики. Одна книга, которую я читаю, использует передовые концепции, такие как Ring Theory и PDE (примечание: единственное, что я знаю о PDE, это то, что они используют этот забавно выглядящий персонаж). Это кажется мне странным, учитывая, что математику самому трудно «выучить».

Существуют ли отрасли машинного обучения, в которых используются разные подходы?

Я бы подумал, что подходы, основанные больше на логике, памяти, построении необоснованных предположений и чрезмерных обобщениях, были бы лучшим путем, поскольку это больше похоже на то, как думают животные. Животные не (явно) рассчитывают вероятности и статистику; по крайней мере, насколько я знаю.

Answer 1

Поведение нейронов в нашем мозге очень сложное, и для его моделирования требуется определенная математика. Итак, да, мы действительно вычисляем чрезвычайно сложную математику, но это делается так, что мы не воспринимаем.

Я не знаю, есть ли математика, которую вы обычно находите в А.И. исследование полностью связано со сложностью моделирования естественных нейронных систем. Это также может быть связано, в частности, с эвристическими методами, которые даже не пытаются моделировать разум (например, используя фильтры свертки для распознавания форм).

Answer 2

В последнее время я много думал об этом.

К сожалению, большинство типов инженеров / математиков настолько привязаны к своим знакомым математическим / вычислительным мирам, что часто забывают рассмотреть другие парадигмы.

Художники, например, часто думают о мире очень изменчиво, обычно без привязки к математическим моделям. Многое из того, что происходит в искусстве, является архетипическим или символическим, и часто не следует какой-либо общепринятой на первый взгляд логической схеме. Есть, конечно, очень сильные исключения из этого. Музыка, например, особенно в теории музыки, часто требует сильных левых мозговых процессов и так далее. По правде говоря, я бы сказал, что даже самые правосторонние действия не лишены левой логики, а представляют собой более сложные математические парадигмы, как теория хаоса для красоты фракталов. Таким образом, переход слева направо и обратно - это не раскол, а симбиотическая связь. Люди используют обе стороны мозга.

В последнее время я думал о более хитром изобразительном подходе к математике и машинному языку - даже в банальном мире единиц и нулей. Мир довольно долго думал о машинном языке в терминах знакомых математических, числовых и буквенных условностей, и перестроить космос не так-то просто. Тем не менее, в некотором смысле, это происходит естественно. Вики, вайсиги, инструменты для черчения, фото- и звуковые редакторы, инструменты для ведения блогов и т. Д. Все эти инструменты делают тяжелый математический и машинный код, скрывающийся за кулисами, чтобы сделать пользовательский опыт более хитрым.

Но мы редко думаем о том, чтобы сделать то же самое для самих кодеров. Безусловно, код является символическим по своей природе языковым. Но я думаю, что можно перевернуть все это с ног на голову и принять визуальный подход. То, на что это было бы похоже, можно только догадываться, но в некотором смысле мы видим это повсюду, поскольку весь мир машинного обучения со временем все больше и больше отвлекается. Поскольку машины становятся все более и более сложными и могут выполнять все более и более сложные задачи, существует базовая необходимость абстрагировать и упростить эти самые процессы для упрощения использования, проектирования, архитектуры, разработки и ... вы называете это.

Несмотря на все это, я не верю, что машины когда-либо научатся чему-либо самостоятельно без участия человека. Но это еще один спор относительно характера религии, Бога, науки и вселенной.

Answer 3

Вы могли бы найти эволюционные вычислительные подходы к машинному обучению, которые были бы менее загружены математическими задачами, такими как оптимизация муравьиных колоний или разведка роя.

Я думаю, что вам следует отложить в сторону, если вы придерживаетесь того, что ваш вопрос как бы подсказывает, то мнение о том, что машинное обучение пытается симулировать то, что происходит в мозге животных (включая Homo Sapiens ). Большая часть математики в современном машинном обучении проистекает из его основ в распознавании и сопоставлении образов; отчасти это происходит из-за попыток представить то, что усваивается, в виде квазиматематических утверждений; отчасти это связано с необходимостью использования статистических методов для сравнения различных алгоритмов и подходов. И отчасти это происходит потому, что некоторые из ведущих специалистов-практиков приходят из научных и математических кругов, а не из области компьютерных наук, и они приносят с собой свой набор инструментов, когда приходят.

И я очень удивлен, что вы удивлены, что машинное обучение требует большого количества вычислений, так как долгая история ИИ доказала, что чрезвычайно трудно создавать машины, которые (кажется) думают.

Answer 4

Если вы хотите избежать математики, но делать вещи, подобные ИИ, вы всегда можете придерживаться более простых моделей. В 90% случаев более простые модели будут достаточно хороши для решения реальных проблем.

Я не знаю трека ИИ, который полностью отделен от математики. Теория вероятностей - это инструмент для обработки неопределенности, который играет основную роль в ИИ. Таким образом, даже если бы не было такого математического подполя, математические методы были бы наиболее эффективным способом улучшить эти методы. И, таким образом, математика вернется в игру. Даже простые методы, такие как наивный байесовский метод и деревья решений, могут быть использованы без большого количества математики, но настоящее понимание приходит только через него.

Машинное обучение очень тяжело по математике. Иногда говорят, что он близок к «вычислительной статистике», с немного большим вниманием к вычислительной стороне. Возможно, вы захотите проверить «Коллективный разум» О'Рейли. Я слышал, что у них есть хорошая коллекция техник ML без слишком сложной математики.

Answer 5

Я учился на курсе машинного обучения в прошлом семестре. Кафедра когнитивных наук в нашем университете очень заинтересована в символическом машинном обучении (это вещи без математики и статистики; о)). Я могу порекомендовать два замечательных учебника:

• Машинное обучение (Томас Митчелл)
• Искусственный интеллект: современный подход (Рассел и Норвиг)

Первый более сфокусирован на машинном обучении, но его очень компактная форма имеет очень плавную кривую обучения. Второе - очень интересное чтение со многими историческими сведениями.

Эти два названия должны дать вам хороший обзор (Все аспекты машинного обучения, а не только символические подходы), чтобы вы могли сами решить, на каком аспекте вы хотите сосредоточиться.

По сути, всегда задействована математика, но я считаю, что символическое машинное обучение легче начинать, поскольку идеи большинства подходов зачастую удивительно просты.

Answer 6

Математика - это просто инструмент машинного обучения. Знание математики позволяет эффективно подходить к моделируемым задачам под рукой. Конечно, это может быть возможным, чтобы перебить себя, но обычно это происходит за счет уменьшения понимания основных принципов.

Итак, возьмите учебник по математике, изучайте темы, пока не ознакомитесь с понятиями. Ни один инженер-механик не собирается проектировать мост, не понимая основную математику, лежащую в основе поведения системы; почему это должно быть иначе в области машинного обучения?

Answer 7

ИИ, основанный на первом случае, символический ИИ - все это теории. Очень мало проектов, в которых они были бы успешно использованы. В наши дни ИИ - это машинное обучение. И даже нейронные сети также являются ключевым элементом в ML, который использует оптимизацию на основе градиента. Вы хотите заниматься машинным обучением, линейной алгеброй, оптимизацией и т. Д.

Answer 8

Да, в исследованиях по машинному обучению сейчас доминируют исследователи, пытающиеся решить проблему классификации: с учетом положительных / отрицательных примеров в n-мерном пространстве, какая является лучшей n-мерной формой, которая захватывает положительные.

Другой подход используется основанным на конкретном случае рассуждением (или основанным на конкретном случае обучением), где вычет используется наряду с индукцией. Идея состоит в том, что ваша программа начинается с большого количества знаний о мире (скажем, она понимает ньютоновскую физику), а затем вы демонстрируете некоторые положительные примеры желаемого поведения (скажем, вот как робот должен ударить по мячу в этих условиях ) затем программа использует их вместе, чтобы экстраполировать желаемое поведение на все обстоятельства. Вроде ...

Answer 9

В машинном обучении много чего, кроме математики.

Вы можете построить самую удивительную вероятностную модель, используя массу математики, но потерпите неудачу, потому что не извлекаете нужные данные из данных (что часто может требовать понимания предметной области) или у вас возникают проблемы с выяснением того, что ваша модель дает сбой на конкретном наборе данных (который требует от вас высокого уровня понимания того, что дают данные, и что нужно модели).

Без математики вы не можете самостоятельно создавать новые сложные модели ML, но вы наверняка сможете поиграть с уже проверенными и проверенными, чтобы анализировать информацию и делать интересные вещи.
Вам все еще нужны математические знания, чтобы интерпретировать результаты, которые дает модель, но обычно это намного проще, чем создавать эти модели самостоятельно.

Попробуйте поиграть с http://www.cs.waikato.ac.nz/ml/weka/ и http://mallet.cs.umass.edu/ .. Первый включает все стандартные алгоритмы ML, а также множество удивительных функций, которые позволяют визуализировать ваши данные и предварительную / постобработку чтобы получить хорошие результаты.