El chatbot de AMD funciona con LM Studio, un programa de terceros que tiene versión ROCm para RX 7000.
Vivimos en la era de la IA donde las Big Tech luchan por lanzar sus modelos o aplicaciones con el fin de convencer. Intel y NVIDIA se adelantan con sus chatbot, pero AMD ofrece un método bastante sencillo. El soporte de tarjetas gráficas parece ser crucial y esto lo sabe el Red Team, que va a buscar destacarse entre sus mayores rivales.
Primero, debes tener un procesador con Ryzen AI o una AMD Radeon RX 7000 para poder usarlo. En Ryzen AI, solo están disponibles en las APU con iGPU Radeon 760M o 780M, y seguramente tenga que ver con los AI Accelerators; dicho esto, la clave es que soporte la instrucciones AVX2.
AMD no tiene su programa, sino que usa LM Studio en su versión ROCm. Una vez instalado, se busca el LLM que quieres, aunque AMD nos avisa de que es mejor usar modelos con etiqueta Q4 KM. Esto es por su nivel de cuantificación y otras características, cosa que no me queda nada clara. La activación depende de si usas CPU o GPU; con GPU se abre a través del lado derecho del panel y se habilita manualmente la descarga.
Parece que la implementación de AMD es mucho más sencilla que la de NVIDIA o Intel, al menos en lo que a chatbot se refiere. Sin embargo, Chat with RTX es mucho más completa por la cantidad de funciones de las que dispone, además de tener una mayor retrocompatibilidad GPU, ¡el mundo al revés!
Todos están lanzando sus modelos IA y sus chatbots, no sé muy bien con qué fin porque la mayoría van a usar ChatGPT o Bard. Son los primeros, funcionan bien y da igual si tienes CPU o GPU «X», se puede usar en cualquier lado, incluso en el móvil.
Mi pequeña crítica a AMD es que no pierdan el tiempo con estos chatbots e implementen IA en FSR para hacerla más potable, tal y como han demostrado Intel o NVIDIA.
Te recomendamos los mejores procesadores del mercado
Echa un vistazo al tutorial de AMD.
¿Le veis practicidad a esto?
El SIG acaba de publicar Bluetooth 6.1 Core Specification, introduciendo mejoras en privacidad y seguridad.…
Beelink ha presentado su nueva mini PC GTR9 Pro, equipado con la potente APU AMD…
Las nuevas mounting bars del Noctua NH-D15 G2 están pensadas para mejorar el rendimiento térmico…
