Я лично предпочитаю создавать чистый консольный win32 проект в Visual Studio (это создает файлы .sln и .vsproj). Затем добавляю туда контент. Если добавляю .cu файл, то это требует включения Build Rule (тот самый .rules файл о котором я тут где то писал). Помимо этого, требуется добавить некоторые настройки в проект. Для этого кликаем на проект правой клавишей, открываем его свойства. Там добавляем
1. в пункт Linker - General - Additional Library dependencies:
$(CUDA_LIB_PATH);$(NVSDKCUDA_ROOT)\common\lib
2. в пункт Linker - Input - Additional dependencies:
cudart.lib cutil64D.lib (или cudart.lib cutil32D.lib для 32 разрядной ОС, или без большой D если не для дебага)
3. в пункт CUDA Build Rule v2.3.0 - General - Additional include directories:
$(NVSDKCUDA_ROOT)\common\inc;$(CUDA_INC_PATH)
4. Выставляем пункт CUDA Build Rule v2.3.0 - General - GPU Architecture:
соответственно архитектуре твоей карты, либо минимум для полной обратной совместимости твоего приложения со старыми картами - в случае если ничего особенного не требуется от приложения (типа двойной точности)

Пока всё. Если возникают ошибки какие то в процессе например компиляции, можно искать по форуму нвидиа (http://forums.nvidia.com/index.php?), наверняка я с этим уже сталкивался :)