Tenemos las primeras pruebas de que compañías centradas en la IA ya comienzan a comprar tarjetas gráficas de juegos, como podemos observar en una imagen compartida por geohot.
IA: Empresas de inteligencia artificial compran GPUs para juegos
AMD (unlike Qualcomm) is a joy to buy chips from. 7.38 PFLOPS of compute was delivered today, with exaflops more to come.
Nice to see them more active on the ROCm GitHub, we are working on the layer above @__tinygrad__ pic.twitter.com/5yE11TVA5F
— George Hotz 🌑 (@realGeorgeHotz) August 1, 2023
El hacker informático y empresario George Hotz (alias geohot), actualmente dirige una empresa de asistencia a la conducción automatizada basada en IA llamada Comma AI. En la imagen podemos ver que habla de la compra de cajas de GPU AMD para juegos. En este caso, estamos hablando de las tarjetas gráficas RX 7900 XTX de la marca XFX.
‘’AMD (a diferencia de Qualcomm) es un placer comprar chips. Hoy se entregaron 7,38 PFLOPS de cómputo, con exaflops más por venir.’’
Esto quiere decir que se vendrán más compras de tarjetas graficas de juegos. Si bien esta imagen solo muestra a una compañía, es probable que esto se reproduzca en muchas otras.
Según los cálculos, el lote visto aquí cuenta con unas 60 GPU. Con un precio de 979,99 dólares en Amazon para este modelo, la inversión aquí es de más de unos 60.000 dólares. El empresario habla de que hay más ‘exaFLOPS’ por venir, que son unos 1.000 petaFLOPS. En caso de querer comprar hasta 2 exaflops, la inversión podría ser de más de 20 millones de dólares para esta compañía de inteligencia artificial.
¿Por qué la elección de AMD frente a otras GPUs de Nvidia que ofrecerían mayor rendimiento en IA? Al parecer, la mayor cantidad de memoria VRAM podría haber inclinado la balanza, ya que las tareas de IA suelen requerir mucha memoria. La RX 7900 XTX ofrece 24 GB y 122,88 TeraFLOPS FP16. Por ejemplo, una RTX 4060 puede ofrecer unos 121 TeraFLOPS FP16, pero tiene tres veces menos memorias, lo que las hace poco prácticas para tareas de inteligencia artificial a gran escala.
Esta puede ser una señal de alarma para lo que puede venir, con compañías apostando por graficas de juegos en lugar de aquellas aceleradoras especializadas en la IA, que tienen precios mucho más altos. Por ejemplo, en China ya se ven precios de más de 70.000 dólares para una sola unidad H800 de Nvidia. Os mantendremos al tanto de todas las novedades.
