Как использовать Hadoop для веб-приложения? - PullRequest
17 голосов
/ 09 августа 2011

Я работаю над веб-приложением для социальных сетей, которое использует веб-сервер Apache и MYSQL-сервер для базы данных с MVC-структурами codeigniter. Я не знаю, как интегрировать Hadoop в это приложение и как написать программу уменьшения масштаба карты.

Ответы [ 6 ]

15 голосов
/ 09 августа 2011

Hadoop и map-Reduce не имеют прямого отношения к веб-приложениям.Не следует интегрировать Hadoop в веб-приложение, если вы понимаете веб-приложение как нечто, быстро реагирующее на ввод данных пользователем (веб-запросы).

Hadoop и map-Reduction очень полезны для алгоритмов, работающих набольшие наборы данных для преобразования / извлечения данных / знаний из этих наборов данных.

9 голосов
/ 18 января 2013

Несмотря на то, что Hadoop в настоящее время в основном используется для «автономной аналитики», он может быть полезен и для веб-проектов.Например, для предварительного расчета рекомендаций или предложений, которые затем предоставляются пользователям веб-сайта.

Другим примером использования является возможность ETL из нескольких источников данных для создания инвертированного индекса для веб-сайта (например, веб-сайты, похожие на рабочие места / автомобили / аренду, с огромными объемами входных данных).

Всегда думайте о Hadoop, когда у вас есть проблема с «большими данными», а не если ваш сайт управляет небольшими объемами данных.

Использование Hadoop для решения подобных проблем имеет свои преимущества и недостатки.Очевидное преимущество заключается в том, что любой пакетный процесс (например, упомянутые выше примеры) прозрачно масштабируется.Недостатком является то, что это не в режиме реального времени: вы не можете использовать Hadoop для обновления вашего сайта каждые 5 секунд.

3 голосов
/ 09 августа 2011

Я думаю, что Hadoop может иметь два «классических» использования для приложений в стиле социальной сети.

Первое - это использование HBASE для хранения сообщений и другой динамической информации.Хранение пользовательских профилей в HBASE также может быть рассмотрено для полной замены MySQL этим видом NoSQL-решения.

Вторым является использование Hadoop MapReduce для анализа вашей сети.Хорошим примером такого анализа является поиск предложений друзей.

2 голосов
/ 07 марта 2017

Да, можно создать веб-приложение, используя Apache Hadoop в качестве серверной части

Вы можете создать веб-приложение, используя apache hive и pig, вы можете написать собственный маппер и редукторы и использовать его как udf, но в личном опыте это медленно. Если у вас очень мало данных, лучше использовать другую базу данных и делать аналитику , Я предпочитаю свечи - это решение для лучшего времени ответа ..

1 голос
/ 13 сентября 2012

Используя hadoop, проанализируйте ваши данные и перенесите результаты в базу данных mysql. Затем используйте это в своем веб-приложении.

0 голосов
/ 18 июня 2016

В вашем веб-приложении вы можете получить необходимые данные из Hadoop (например, результаты работы) с помощью сервисов REST: https://hadoop.apache.org/docs/r2.4.1/hadoop-yarn/hadoop-yarn-site/WebServicesIntro.html

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...