Что заставляет людей думать, что NN обладают большей вычислительной мощностью, чем существующие модели?

Question

Я читал в Википедии, что функции нейронной сети, определенные на поле произвольных действительных / рациональных чисел (наряду с алгоритмическими схемами и умозрительными «транскурсивными» моделями), обладают большей вычислительной мощностью, чем компьютеры, которые мы используем сегодня. Конечно, это была страница русской википедии (ru.wikipedia.org), и это может быть не совсем правильно доказано, но это не единственный источник таких слухов

Теперь, что я действительно не понимаю, так это то, как машина переписывания строк (NN - это машины переписывания строк точно так же, как машины Тьюринга; только язык программирования отличается) может быть более мощной, чем универсально способная U -машина?

Да, описательный инструмент действительно отличается, но факт в том, что любая функция такого класса (легко или нет) может быть превращена в легальную машину Тьюринга. Я ошибся? Я скучаю по чему-то важному?

По какой причине люди так говорят? Я действительно знаю, что феномен неразрешимости сегодня широко распространен (хотя не всегда подтверждается тем, что я читал), но я не вижу ни малейшего шанса, что НС смогут решить эту конкретную проблему.

Надстройка: Not consistently proven according to what I've read - Я имел в виду, что вы могли бы захотеть взглянуть на работы А. Зенкина (русского математика) после середины 90-х годов, где он убедительно постулирует ошибочность концепций Г. Кантора, в том числе трансфинитных множества, несчетные множества, метод диагонализации (метод, используемый в доказательстве неразрешимости Тьюрингом) и, возможно, другие. Даже теоремы Гёделя о неполноте были доказаны правильно только в 21-м веке. Это все лишь для того, чтобы включить работу Зенкина в должность, потому что я не знаю, насколько широко распространены эти знания в сообществе CS, так что простите, если это выглядело глупо.

Спасибо!

Answer 1

Из того небольшого исследования, которое я провел, большинство этих утверждений о системах Тьюринга, или о неправильности доказательства диагонализации Кантора и т. Д., Скажем так, являются «спорными» в законных математических кругах. Такие слова, как "кривошип", часто встречаются.

Очевидно, что сильный тезис Черча-Тьюринга остается недоказанным, но, как вы указали, на самом деле нет веских оснований полагать, что искусственные нейронные сети представляют собой вычислительные возможности, выходящие за рамки общей рекурсии / UTM / лямбда-исчисления / и т.д.

Answer 2

С теоретической точки зрения я думаю, что вы абсолютно правы - нейронные сети предоставляют очень мало нового или другого.

С практической точки зрения нейронные сети - это просто способ преобразования решений в форму, в которой параллельное выполнение является естественным и легким, в то время как машины Тьюринга являются последовательными по своей природе, и выполнение их последовательностей параллельно является относительно трудным. Фактически, большая часть того, что было сделано в разработке ЦП за последние несколько десятилетий, в основном заключалась в поиске способов параллельного выполнения кода при сохранении иллюзии его последовательного выполнения. партия оборудования в современном ЦП посвящена поддержанию этой иллюзии, и степень, в которой параллельное выполнение стало явным, по большей части является признанием того, что поддержание иллюзии стало непомерно дорогим.

Answer 3

Вас могут заинтересовать С. Франклин и М. Гарзон, Нейронная вычислимость. В Google есть предварительный просмотр . В нем обсуждается вычислительная мощность нейронных сетей, а также утверждается, что, по слухам, нейронные сети строго более мощные, чем машины Тьюринга.

Answer 4

Тот, кто «доказывает», что диагональный метод Кантора не работает, доказывает только свою собственную некомпетентность. Ср Уилфреда Ходжеса Редактор вспоминает несколько безнадежных статей для удивительно сочувственного объяснения того, что не так с этими попытками.

Вы можете предоставить умозрительные описания нейронных сетей гипер-Тьюринга, точно так же, как вы можете дать умозрительные описания других типов компьютеров с гипер-Тьюрингом: нет ничего непоследовательного в идее, что возможен гиперкомпьютер, и были спекулятивные описания механических гиперкомпьютеров. сделано там, где гиперкомпьютер должен иметь бесконечно мелкие гравюры, которые кодируют оракула для машины Холтинга: существование такой машины согласуется с ньютоновской механикой, но не с квантовой механикой. Скорее, тезис Черча-Тьюринга говорит, что они не могут быть построены, и есть две причины полагать, что тезис Черч-Тьюринга верен:

1. Таких машин никогда не было; и
2. Была проделана работа по соединению моделей физики с моделями вычислений, возвращаясь к работе в начале 1970-х годов Робину Гэнди, с недавней работой таких людей, как Дэвид Дойч (например, Машины, Логика и Квантовая физика и Джон Такер (например, Вычисления с помощью экспериментов с кинематическими системами ), которые утверждают, что физика не поддерживает гиперкомпьютеры.

Суть в том, что истинность тезиса Черча-Тьюринга является эмпирическим фактом, а не математическим фактом. Это то, в чем мы можем быть уверены, это правда, но не уверенность.

Answer 5

С точки зрения непрофессионала, я вижу, что

• NN могут быть более эффективными при решении некоторых типов задач, чем машины Тьюринга, но они не являются вычислительно более мощными.
• Даже если бы NN были, очевидно, более мощными, чем ТМ, выполнение на текущем оборудовании сделало бы их менее мощными, поскольку текущее оборудование представляет собой лишь пример ТМ и может выполнять задачи, вычисляемые только ограниченным ТМ.