CUDA - это API для создания библиотек, работающих на графическом процессоре NVidia. Следовательно, любые операции, которые должны быть выполнены, должны быть запрограммированы пользователем. Существует не так много доступных библиотек с открытым исходным кодом.
Программисты используют 'C для CUDA' (C с расширениями NVIDIA), скомпилированные с помощью компилятора PathScale Open64 C, для кодирования алгоритмов для выполнения на GPU.
http://en.wikipedia.org/wiki/CUDA