Какова связь между байесовскими и нейронными сетями?

Question

Я ищу сложные в вычислительном отношении задачи для реализации с помощью CUDA и задаюсь вопросом, могут ли применяться нейронные или байесовские сети. Это не мой вопрос, а скорее какова связь между двумя типами сетей. Они кажутся очень связанными, особенно если вы посмотрите на байесовские сети с возможностями обучения (о которых упоминается в статье в Википедии). На первый взгляд, байесовские сети немного похожи на определенный тип нейронных сетей. Может ли кто-нибудь подвести итог своих отношений, и есть ли какая-либо связь, помимо очевидного сходства?

Answer 1

Байесовские сети представляют отношения независимости (и зависимости) между переменными. Таким образом, ссылки представляют условные отношения в вероятностном смысле. Нейронные сети, вообще говоря, не имеют такой прямой интерпретации, и на самом деле промежуточные узлы большинства нейронных сетей являются обнаруженными функциями вместо того, чтобы иметь какой-либо предикат, связанный с ними самостоятельно.

Answer 2

Сообщается , что байесовские сети более устойчивы к "перетренированности", которая наблюдается в некоторых нейронных сетях. Другими словами, некоторые нейронные сети становятся настолько «обученными» для наблюдаемых измерений, используемых в обучении, что они бесполезны для общих случаев.

Answer 3

Действительно, они есть. Я вижу байесовскую сеть как нейронную сеть, применяющую теорему Байя в больших масштабах, но я не помню деталей. Я знаю, где вы можете найти их, и я рекомендую эту книгу для этого.