Вместо pow() и sqrt() использовать native_pow() и native_sqrt(). Вместо умножений и сложений можно использовать mad(). Некоторые операции можно заменить на dot(). Если видеокарта - ATI, лучше все векторизовать. Функцию mul(float4 A, float4 B) можно заменить/перпеписать как A.yzx*B.zxy - A.zxy*B.yzx. Дальше - смотреть профайлером что просаживает производительность.

Ещё, не надо определять PI - уже есть M_PI_F.

Все операции производятся над 3-х компонентными векторами, но используются 4-х компонентные float4. Если это из соображений быстрого чтения из памяти - проверьте, возможно на платформе и так sizeof(cl_float4) == sizeof(float3), и не имеет смысла использовать float4.