TinyBox: Crean un sistema de IA con seis GPUs RX 7900 XTX

La compañía Tiny Corp ha construido una plataforma que consiste en seis tarjetas gráficas RTX 7900 XTX para acelerar la inteligencia artificial.

TinyBox: Nueva plataforma de IA con seis RX 7900 XTX

Esta compañía suele dedicarse estructuras de redes neuronales, y aquí han podido construir una plataforma «tinybox» que está utilizando la potencia de una GPU comercial, como es la RTX 7900 XTX, que está más enfocada en los videojuegos.

«No creo que tenga mucho valor guardar secreto. Tenemos las piezas para construir 12 cajas y una caja. «Eso está bastante cerca del final. Superar todos los errores de PCI-E AER fue difícil, como sabe cualquiera que haya intentado construir un sistema como este. Nuestro costo de lista de materiales es de alrededor de $10,000 y los estamos vendiendo por $15,000.’’

Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado

El fundador de Tiny Corp, George Hotz, ha rechazado anteriormente el hardware de IA de Nvidia en las redes sociales. Sin embargo, la compañía no ha utilizado la aceleradora Instinct MI300X para esta plataforma, sino las GPU de juegos más potente de AMD, la RX 7900 XTX. En este caso, Tiny Corp está apostando por una arquitectura RDNA 3 en lugar de la arquitectura CDNA 3.

El TinyBox está albergando un procesador AMD EPYC 7532 con 128 GB de memoria RAM, además de 5 SSDs SN850X de 1 TB, cuatro de ellas conectadas en RAID + un SSD que sirve de arranque. Las seis tarjetas gráficas son las XFX Speedster MERC310 RX 7900 XTX.

«La imagen del sistema que se enviará con la caja será Ubuntu 22.04. Solo incluirá tinygrad listo para usar, pero el soporte de PyTorch y JAX en AMD ha recorrido un largo camino, y su hardware es su hardware. Ganamos dinero de cualquier manera, ustedes son bienvenidos a comprarlo para cualquier propósito». 

Os mantendremos al tanto de todas las novedades.