Недавно начал осваивать cuda под linux
Долго парился с настройкой, но в итоге всё заработало! Если кому интересно у меня получилась небольшая инструкция:
установка CUDA Toolkit 2.3 на ubuntu 9.10

(Все манипуляции из-под суперпользователя, все драйверы(проприетарные) заранее грохаем)

Качаем три пакета:

1.CUDA Driver
2.CUDA Toolkit
3.CUDA SDK

Отсюда:
http://www.nvidia.ru/object/cuda_get_ru.html

Заливаем их в удобное место, для удобства можно переименовать =)

Ставим необходимые хидеры:

apt-get install linux-headers-`uname -r` binutils pkg-config build-essential xserver-xorg-dev

Вырубаем иксы:
/etc/init.d/gdm stop

Логинимся в текстовом терминале и запускаем инсталятор драйвера:
sh ./NVIDIA-Linux-x86-190.53-pkg1.run

Врубаем иксы обратно:
/etc/init.d/gdm start

На всякий случай перезагружаем тачку

Ставим gcc версии < 4.4, т.к. в коале по умолчанию идёт 4.4 (вроде как и 4.4 можно, но не без бубна))), я ставил gcc 4.1, т.к. слил сначала тулкит версии 2.2, тулкит версии 2.3 поддерживает gcc до версии 4.3 включительно
(Возможно при установке потянется ещё чего-нить из зависимостей)

Ставим нужную версию gcc по умолчанию, для версии 4.1 как-то так:
update-alternatives --install /usr/bin/gcc gcc /usr/bin/gcc-4.1 413
update-alternatives --config gcc

Команда gcc -v должна выдавать нужную версию (в данном случае - 4.1.3)

Ставим тулкит:
sh ./cudatoolkit_2.3_linux_32_ubuntu9.04.run

Правим файл /etc/ld.so.conf, - добавляем строчку /usr/local/cuda/lib
(путь к либам CUDA), обновляем конфигу: ldconfig

Устанавливаем CUDA SDK:
sh ./cudasdk_2.3_linux.run

Здесь можно выйти из режима суперпользователя, предварительно дав нужные права/поменяв пользователя папки ~/NVIDIA_GPU_Computing_SDK - rwx - для пользователя, под которым будем работать

Далее заходим в папку с исходниками примеров (а именно исходник template):
cd ~/NVIDIA_GPU_Computing_SDK/C/src/template
Компилим:
make
И запускаем (уже из другой папки):
cd ~/NVIDIA_GPU_Computing_SDK/C/bin/linux/release
./template

Если в терминале появилось что-то типа этого:
Processing time: 29.346001 (ms)
Test PASSED

Press ENTER to exit...
Значит тулкит и драйвер встали нормально, используется gcc нужной версии, пути к либам cuda прописаны нормально - вобщем всё ок =)

Далее пишем проги в соответствии с /usr/local/cuda/doc/NVIDIA_CUDA_ProgrammingGuide_2.3.pdf

Поддержки openCL в этом тулките нет =(, но есть какая-то альфа CUDA Toolkit 2.3a, если кто поставит отпишитесь плз... а то у меня не попёрло(((

ЗЫЖ отличный ресурс, так держать! =)