API - один. Транслятор (прямо из C-like исходного кода) - в драйвере (результаты трансляции можно сохранить, чтобы каждый раз не перетранслировать).
Все примерно как в OpenGL.
Устройство можно спросить что оно поддерживает и подать на него соответствующий код.

Скорее всего, как оно и случилось в OpenGL, совместимость со временем нарушится - появятся всякие расширения (только NV или только ATI), которые будут позволять что-то ускорить или улучшить, но пока этого нет.