Не знаю, затрагивалась ли раньше эта тема. Думаю, ни для кого не секрет, что в численных методах умножение матрицы на матрицу в чистом виде встречается крайне редко. По сути, результаты такого умножения - это те же попугаи. Поэтому было бы очень интересно увидеть результаты умножения матрицы на вектор, а также умножение матрицы на вектор в разреженном формате, например, CSR. Не знаю, позволяет ли CUDA работать с разреженными форматами. У Гото Sparce BLAS нет, в MKL есть.