La AMD Instinct MI300X consume 750W, ¿cómo la van a alimentar y refrigerar?

La AMD Instinct MI300X es sin duda la tarjeta gráfica más compleja hasta el momento, tanto que han tenido que dividirla en varios chips y no es para menos, ya que estamos ante una GPU con 440 Compute Units, una barbaridad. Sin embargo, esto tiene un coste energético importante, 750 W, siendo este el principal motivo por el cual no lo podrás instalar en su PC, pero no el único.

Si te hacías ilusiones para instalar la AMD Instinct MI300X en tu PC para jugar a videojuegos. Entonces, olvídate, por el simple hecho de que no puede reproducir gráficos. El motivo de ello Es que carece de ciertas unidades que son esenciales para reproducir gráficos en 3D a tiempo real. Por lo que eso potencia en bruto se utiliza para acelerar algoritmos de computación científica en paralelo como a los cuales se benefician de la capacidad de cálculo y de la arquitectura de las GPU. Además, no podemos olvidar de que el coste de un circuito integrado de este tipo coso complejidad sería inviable en cuanto a precio para colocarse en un PC

¿Por qué no puedes instalar el AMD Instinct MI300X en tu PC?

Pues por dos motivos muy simples, el primero de ellos es que no se trata de una tarjeta de expansión típica para PC, las cuales se suelen conectar al puerto PCI Express. Si no que más bien están pensadas para emplear el estándar en servidores Open compute Accelerator Module u OAM. Esto le permite entregar una potencia de 750 W a semejante monstruo. Siendo el consumo energético el segundo motivo por el cual no se puede utilizar en un PC convencional, Incluyendo estaciones de trabajo.

Y es que el nuevo conector de alimentación de 16 pines, el 12VHPWR, Entrega con mucho 600 vatios A los que hemos De sumar 75 vatios del propio PCI Express de base sin alimentación externa. No obstante, Para aquellos que les interese Una versión PCI Express sabemos que AMD la menciono durante la presentación. Existen rumores y con base de una MI300C, con la mitad de unidades y solo 64 GB HBM3. Todo ello es cuanto menos extraño, aunque no imposible, dado que una de sus ventajas es la de poder ejecutar modelos de gran tamaño gracias a sus 192 GB en memoria.

Esto no quita qué AMD tenga la recámara, una versión PCI Express de su Instinct MI300X, Y pese a que por el momento no es más que una posibilidad remota, que no se ha confirmado, las probabilidades existen. No olvidemos que AMD aún ha de implementar Una sola de sus tarjetas que utilicen el nuevo conector de 16 pines Y se puede convertir en la oportunidad perfecta para hacerlo por parte de la marca. Sin embargo, vemos más que probable que sea una respuesta a la 4090 Ti, que consume solo 450 W o a la versión PCI Express de la H100, ambas de NVIDIA.

La refrigeración, otro punto clave

Llegar a mantener 750 vatios de potencia bien frescos requiere sistemas de refrigeración cuanto menos complejos, grandes y costosos. Y es que eso le hace falta ver el enorme disipador de calor encima de cada unidad para que nos quede claro que la instalación del AMD Instinct MI300X en un PC convencional está fuera de toda duda. No parece ser que hayan utilizado refrigeración líquida de ningún tipo, pero no sería de extrañar que ante estos consumos tan exagerados algunos potenciales clientes puedan optar por una solución así, pero esto dependerá de los costes de mantenimiento y la rentabilidad de los mismos.

En todo caso, no estamos hablando de algo pensado para un ordenador convencional y no tan siquiera una estación de trabajo. Es por eso que suponemos que la versión PCI Express no va a tener nivel de consumo, ya que colocar un disipador de tal tamaño supera los límites aceptables para cualquier placa base y caja para PC. De ahí a que nuestra especulación sea la de un modelo a menor velocidad con 450 vatios de consumo.

La estrategia de AMD en cuanto a IA es clara: ser más baratos

Una de las quejas más comunes entre los profesionales de la inteligencia artificial, es la poca memoria Con la que por el momento pueden trabajar. Y es que muchas veces el número de GPU necesarias para la inferencia viene dictado por la necesidad de una potencia concreta, si no por limitaciones de memoria. Por lo que la apuesta de AMD es ofrecer soluciones por un coste menor como alternativa al cuasi monopolio de facto que tiene NVIDIA en IA.

Por el momento ya han conseguido el apoyo de Hugging Face, cuyo modelo al estilo ChatGPT, se puede ejecutar en una sola AMD Instinct MI300X punto lo que la hace ideal para pequeñas empresas que quieren utilizar este tipo de tecnología, pero que se encuentran con que nos pueden costearse una gran infraestructura. Todo Ello sin olvidarnos del probable pacto con Amazon. Al fin y al cabo la estrategia de AMD se basa en ofrecer un hardware igual de capaz en IA, pero a un coste aparentemente menor con el objetivo de arañar cuota de mercado.

La entrada La AMD Instinct MI300X consume 750W, ¿cómo la van a alimentar y refrigerar? aparece primero en El Chapuzas Informático.