Ранее я много работал с языком программирования CUDA.
Я планировал начать разработку приложений с использованием OpenCL.Как вы упомянули, одна из лучших функций OpenCL работает на оборудовании многих поставщиков (Intel, AMD и Nvidia).
Один проект, который мне приходилось встречать, который широко использовал openCL для крупномасштабной разработки, - http://sourceforge.net/projects/hypgad/. Возможно, было бы неплохо взглянуть на исходный код из этой группы и понять, как они разработали свое приложение на столь многих аппаратных средствах, включая процессор sony cell.
Другой подход заключается в использовании PyOPENCL, который обеспечивает более высокую абстракцию, чем OpenCL, и может значительно сократить усилия по написанию кода.