Комментировать

По процедуре: Если код

По процедуре:
Если код обрамлять <code>.... </code> то будет еще и красиво. Я, пользуясь админскими правами, вам поправил :)

По смыслу:
ну так точно так же. cudaMalloc() на каждую строчку.

Другой вопрос, что и на CPU и на GPU разумнее аллоцировать одним куском, а если они у вас строки неравной длины - то завести отдельно массив индексов строк.