Массивно параллельное приложение: как насчет нескольких 8-битных ядер для не векторных приложений IA? - PullRequest
0 голосов
/ 05 февраля 2011

Я думал (о боже, это плохо) о нейронных сетях и о том, как невозможно имитировать их, потому что они требуют много атомных операций одновременно (здесь это означает одновременно), потому что именно так нейроны быстрее: они много, чтобы вычислить вещи.

Поскольку наши процессоры являются 32-разрядными, поэтому они могут вычислять значительно более широкую полосу (то есть много разных атомных чисел, являющихся числами с плавающей запятой или целыми числами), частотная гонка также закончилась, и производители начинают поставлять многоядерные процессоры, требуя реализации разработчиками многопоточность в их приложении.

Я также думал о самом важном различии между компьютерами и мозгами; Мозг использует много нейронов, в то время как компьютеры используют точность на высокой частоте: вот почему кажется сложным или невозможным моделировать ИИ в реальном времени с текущей моделью процессора.

Поскольку 32-битные / 64-битные микросхемы также требуют большого количества транзисторов, а поскольку ИИ не требует точности вектора / с плавающей запятой, было бы неплохо иметь на одном процессоре намного больше 8-битных ядер, например 100 или 1000 для пример, так как они занимают гораздо меньше места (я не работаю в Intel или AMD, поэтому я не знаю, как они проектируют свои процессоры, это просто дикое предположение), чтобы планировать подобные симуляции ИИ?

Я не думаю, что это послужит только исследованиям ИИ, потому что я не знаю, как веб-серверы могут на самом деле использовать преимущества 64-битных процессоров (строки используют 8-битные), процессоры Xeon отличаются только с точки зрения размера кеша.

1 Ответ

0 голосов
/ 05 февраля 2011

То, что вы описываете, уже доступно с помощью набора мультимедийных инструкций. Оказывается, что компьютерной графике также нужно много параллельных операций над байтами или даже полубайтами. Таким образом, процессоры начали наращивать векторные операции ( SSE , MMX и т. Д.); совсем недавно графические процессоры открылись для вычислений общего назначения ( GPGPU ).

Я думаю, что вы ошибаетесь, полагая, что нейронная обработка не векторная операция: многие нейронные сети ИИ в значительной степени полагаются на векторные и матричные операции.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...