NVIDIA GPUDirect: qué es y para qué sirve

Si te preguntas sobre NVIDIA GPUDirect, que últimamente se está escuchando mucho, especialmente por la rivalidad entre AMD y Graphcilla tratando de presentar siempre sus novedades a la par, aquí en este artículo podrás conocer un poco más de cerca qué es y para qué sirve esta nueva tecnología que pretende acelerar los videojuegos.

¿Qué es NVIDIA GPUDirect?

NVIDIA GPUDirect pretende mejorar el movimiento de datos aprovechando el potencial de la GPU para su acceso. Durante los procesos se mueven gran cantidad de datos, especialmente en ciertos software científico, financiero, videojuegos de mundo abierto, etc. Para mejorar el rendimiento, la compañía de los gráficos ha propuesto esta tecnología.

Realmente NVIDIA GPUDirect es una familia de tecnologías, un conglomerado que es parte de Magnum IO y especialmente destinada a los centros de datos. Con esta tecnología, tanto los adaptadores o tarjetas de red como las unidades de almacenamiento secundario pueden leer y escribir directamente en la VRAM, la memoria de la GPU.

Esta tarea, sin GPUDirect, debía pasar por la CPU, sobrecargando ésta. Ahora se podrá librar de dicho trabajo y centrarse en otras tareas importantes, dejando que de todo ello se encargue la GPU. Eso no solo implica mejoras de rendimiento en el apartado de la GPU al reducir la latencia, también en la CPU.

NVIDIA GPUDirect incluye tecnologías como GPUDirect Storage, GPUDirect Remote Direct Memory Access (RDMA) para el acceso de dispositivos PCIe, GPUDirect P2P (Peer to Peer) y GPUDirect Video, todo accesible a los programadores gracias a un conjunto de APIs. Por otro lado, también estará disponible en CUDA Toolkit.

• GPUDirect Storage: permite una ruta de datos directa entre los medios de almacenamiento local y también los remotos como los discos duros NVMe, sin la intervención de la CPU, directo del almacenamiento secundario a la VRAM de la GPU. Eso también evita copias adicionales en un buffer y aprovecha los motores DMA.
• GPUDirect RDMA: es una comunicación directa entre dispositivos PCIe de periféricos que accedan directamente a la VRAM de la GPU, sin intervención de la CPU, y aumentando el rendimiento en un orden de unas 10 veces según NVIDIA.
• GPUDirect P2P: la Peer To Peer permite realizar copias de GPU a GPU en caso de haber más de una, así como cargar y almacenar directamente sobr la estructura de memoria PCIe, NVLink. Además, es compatible de forma nativa con el controlador CUDA, para que los desarrolladores puedan usar el kit de herramientas y controladores.
• GPUDirect for Video: ofrece una canalización optimizada para dispositivos basados en gráficos como los capturadores de fotogramas, de vídeo, dispositivos de captura HD-SDI, CameraLink, etc., transfiriendo fotogramas de vídeo desde o hacia la memoria de la GPU. (solo disponible en Windows.)

Esto será especialmente importante para tareas que necesitan mover gran cantidad de datos, como las aplicaciones de IA, HPC, análisis de datos, bases de datos, etc., aumentando la velocidad de E/S de forma considerable.

Alternativa a AMD DirectGMA

NVIDIA GPUDirect tiene un contrincante del otro lado, ya que AMD también ha presentado una tecnología similar, como es AMD DirectGMA. Con ella también se pretende eliminar cuellos de botella y acaparamiento del ancho de banda de la CPU cuando se trata de acceder a datos, dejando dicho trabajo directamente a la GPU.