NVIDIA_CUDA_Programming_Guide_2.3.pdf
// Host code
float* devPtr;
int pitch;
cudaMallocPitch((void**)&devPtr, &pitch,width * sizeof(float), height);
myKernel<<<100, 512>>>(devPtr, pitch);
// Device code
__global__ void myKernel(float* devPtr, int pitch)
{
for (int r = 0; r < height; ++r) {
float* row = (float*)((char*)devPtr + r * pitch);
for (int c = 0; c < width; ++c) {
float element = row[c];
}}}
Из примера вышеуказанного пдф.height и width не передаются ядру с хоста,откуда они должны определится непонятно,Кстати обратите внимания как в примере задется pitch.

а доступ к элементам массива внутри кернела как происходит?
должно быть что-то вроде:
float* pElement = (float*)((char*)devPtr + row * pitch) + column;
(кстати, вы в курсе что cudaMallocPitch используется для выделения памяти под 2D массивы, а то вы тут что-то про вектора нам рассказываете)

>error: no instance of overloaded function "cudaMallocPitch" matches the argument list
сигнатура функции:
cudaError_t cudaMallocPitch (void ** devPtr, size_t * pitch, size_t width, size_t height)
видимо ругается на то что не может откастить int* к типу size_t*.
измените тип pitch на size_t.