Как вы могли бы дать компьютеру "естественную потребность"?

Question

Таким образом, идея заключается в том, что компьютерный агент будет запрограммирован в два уровня: сознательный и бессознательный.

Бессознательная часть - это, по сути, набор устройств ввода и вывода, которые я обычно воспринимаю как датчики (клавиатура, температура и т. Д. На пределе вашего воображения) и методы вывода (экран и динамики, особенно вкорпус домашнего ПК, но опять же на пределе своей фантазии).Датчики могут быть добавлены или удалены в любое время, и этот слой обеспечивает два основных канала для сознательного слоя, один вход и один выход.Определить, какая информация перемещается между этими двумя уровнями, довольно сложно, но основная идея заключается в том, что сознательная часть постоянно получает сигналы (различных уровней абстракции) с выхода бессознательной части, а сознательная часть может посылать все, что угодно.он хочет спуститься на бессознательный уровень через входной канал.

Сознательный уровень изначально практически ничего не знает, он просто полностью взорван входами из бессознательного уровня и знает, как отправлять сигналы обратно, хотяон ничего не знает о том, как какой-то конкретный сигнал повлияет на бессознательную часть.Сознательная часть имеет большой объем памяти и вычислительную мощность, однако это все энергозависимая память.

Теперь вопрос.Я хотел бы, чтобы сознательная часть системы «росла», потому что она не имеет ни малейшего представления о том, что она может сделать, она просто знает, что может отправлять сигналы, и поэтому она начинает с отправки сигналов по трубе и наблюдения за тем, как это влияет наданные датчика он получает обратно.Тупик в том, что компьютер изначально не пытается достичь цели.Это просто отправка сигналов вокруг.Думать об этом как о рождении ребенка, ему нужна еда, сон или перемещение с солнца и т. Д. Сенсорные сигналы ребенка поступают в его мозг, который затем решает попытаться использовать его результаты вчтобы получить то, что ему нужно.

Какую естественную потребность может иметь компьютер?

What have I tried?
Думая конкретно о том, как ребенок становится голодным,Я, конечно, не читал ни одного исследования сканирования кошек на плачущих голодных детей или чего-то еще, но я подумал, что, возможно, какой-то конкретный сигнал исходит от бессознательного с постоянно растущей скоростью, который насыщается только тогда, когда отсылаемые сигналы заставляют ребенка есть.Работа сознательного мозга состоит в том, чтобы минимизировать скорость, с которой поступает каждый тип сигнала.Другими словами, «инстинкт» компьютера заключается в ограничении скорости каждого входящего сигнала. Какие еще могут быть «инстинкты»?Проблема с этой аналогией, конечно, в том, что компьютерам не нужно есть.Или, по крайней мере, я не смог перевести еду на то, что нужно компьютеру.

Outside of the scope of this question
Конечная цель этого - научить компьютер, который ничего не знает, кроме того, как он взаимодействует с миром.играть в крестики-нолики.Поэтому у меня была другая идея - предоставить кнопку, которую вы могли бы нажимать, чтобы вручную стимулировать частоту попадания в сознание определенного сигнала, когда он совершает что-то плохое, или вручную смягчать частоту конкретного сигнала, когда он приносит пользу.

Answer 1

Робот был запрограммирован так, что ему нравились бутерброды с сельдью. На самом деле это была самая сложная часть всего эксперимента. Как только робот запрограммировался так, что ему нравились бутерброды с сельдью, перед ним был поставлен бутерброд с сельдью. После чего робот подумал про себя: «А! Сэндвич с сельдью! Мне нравятся сэндвичи с сельдью».

Затем он наклонился и вынул сэндвич с сельдью в сэндвич с сельдью, а затем снова выпрямился. К сожалению для робота, это было сделано таким образом, что действие выпрямления заставило бутерброд с сельдью соскользнуть прямо с его совка с сэндвичем из сельди и упасть на пол перед роботом. После чего робот подумал про себя: «А! Бутерброд с сельдью ... и т. Д., И повторял одно и то же действие снова и снова и снова. Единственное, что мешало сэндвичу с сельдью скучать по всему проклятому делу и ползти в поисках других способов скоротать время было то, что сэндвич с сельдью, будучи всего лишь кусочком мертвой рыбы между парой ломтиков хлеба, был немного менее внимателен к происходящему, чем робот.

Таким образом, ученые Института обнаружили движущую силу всех перемен, развития и инноваций в жизни, а именно: бутерброды с сельдью. Они опубликовали статью на этот счет, которая была широко раскритикована как чрезвычайно глупая. Они проверили свои цифры и поняли, что на самом деле они обнаружили «скуку», или, скорее, практическую функцию скуки. В лихорадке возбуждения они затем обнаружили другие эмоции, такие как «раздражительность», «депрессия», «нежелание», «слабость» и так далее. Следующий большой прорыв произошел, когда они перестали использовать бутерброды с сельдью, после чего им неожиданно стал доступен целый ряд новых эмоций, таких как «облегчение», «радость», «резвость», «аппетит», «удовлетворение» и самое главное, стремление к «счастью».

Это был самый большой прорыв из всех.

~ от Автостопом по Галактике Дугласа Адамса

Бонус

Взгляните на Укрепление обучения.

Answer 2

Программы машинного интеллекта обычно начинаются с уровня Награды Иерархия потребностей Мазлоу , потому что у них нет способа воспринимать физиологические, защитные и социальные потребности. Однако ...

На физиологическом уровне компьютер питается электричеством. Подключите ИБП, который сообщает компьютеру, когда он работает от батареи, и у вас есть потенциально полезный вход для восприятия физиологических потребностей.

Дайте ему возможность "ощутить", что он "потерял время" или имеет пробелы в своей записи времени (из-за сбоя питания), и вы могли бы представить необходимость в защите и безопасности.

Ввести социальные потребности, заставляя их взаимодействовать. Он может чувствовать себя одиноко, когда между вводами с клавиатуры проходит много времени.

Обнаружение потерянного времени, времени, прошедшего с момента последнего взаимодействия с клавиатурой, и работа от батареи могут быть одними из входов, доступных бессознательному слою, которые могут периодически привлекать внимание сознательного слоя.

Ученые-информатики в Два лица завтрашнего дня подходят к аналогичной проблеме, обучая компьютер, находящийся в песочнице, на спутнике, чтобы осознать это. Они удовлетворяют ему эти потребности, например, давая понять, что он перестанет функционировать без электричества, а затем обеспечивают соответствующую стимуляцию и наблюдают за реакцией.

Подростковый возраст П-1 - еще одна интересная работа в этом направлении.