JVM (смущающе) библиотеки / инструменты параллельной обработки - PullRequest
9 голосов
/ 24 марта 2010

Я ищу что-то, что облегчит запуск (правильно закодированный) смущающе параллельного кода JVM в кластере (чтобы я мог использовать Clojure + Incanter).

В прошлом я использовал Parallel Python для этого. У нас есть новый кластер PBS, и наш администратор скоро настроит узлы IPython, которые используют PBS в качестве бэкэнда. Обе эти системы позволяют легко выполнять определенные типы кода в кластере.

В прошлом я допустил ошибку при использовании Hadoop (Hadoop просто не подходит для того типа данных, который я использую) - из-за задержки даже небольшие прогоны выполнялись в течение 1-2 минут.

JPPF или Gridgain лучше для того, что мне нужно? У кого-нибудь здесь есть опыт работы с любым из них? Вы можете порекомендовать что-нибудь еще?

Ответы [ 4 ]

3 голосов
/ 19 июля 2010

Проверьте каскад - http://github.com/nathanmarz/cascalog

2 голосов
/ 27 марта 2010

Clojure, как сообщается, работает на Terracotta , с некоторыми исправлениями.

1 голос
/ 24 марта 2010

Посмотрите на Скандиум

Редактировать:

Над ссылкой больше нет живой, поэтому добавление ссылки на github

https://github.com/mleyton/Skandium

0 голосов
/ 31 декабря 2010

Я предлагаю вам взглянуть на Skandium , альтернативные лицензии на GPL могут быть согласованы с разработчиками по запросу.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...