ASUS presentó la UGen Intel Arc Pro B70, una tarjeta gráfica destinada a ejecutar modelos de IA directamente en computadores y estaciones de trabajo. Cuenta con 32 GB de memoria GDDR6 con corrección de errores ECC y tiene un consumo declarado de 310 W, con especial atención a las tareas de inferencia que requieren grandes cantidades de memoria de video.
ASUS UGen Intel Arc Pro B70: memoria, consumo y rendimiento
Los 32 GB de VRAM están destinados a mantener los modelos y sus datos de inferencia en la memoria de la tarjeta, reduciendo la necesidad de transferir información hacia la RAM del computador. Según la firma taiwanesa, cuando se agota la memoria de video y se recurre a la memoria principal, el rendimiento de inferencia puede disminuir hasta un 90 %.
Los modelos que trabajan con ventanas de contexto extensas, debido al espacio que utiliza la caché KV para almacenar información durante la generación de respuestas. El consumo de memoria aumenta cuando se ejecutan varios modelos simultáneamente, como ocurre en determinadas configuraciones de agentes de inteligencia artificial.
La memoria de la UGen B70 es suficientes para ejecutar la mayoría de los modelos con menos de 27 mil millones de parámetros. Con Llama 3.1 8B, la tarjeta también puede trabajar con ventanas de contexto de hasta 128 mil tokens.
La tarjeta también admite configuraciones con varias unidades, por lo que es posible instalar dos aceleradoras para sumar 64 GB de VRAM entre ambas, o cuatro para llegar a 128 GB, repartiendo el modelo entre las tarjetas. En las pruebas comunicadas por ASUS, una configuración de dos tarjetas alcanzó 43,4 tokens por segundo con modelos de la clase 80B, aunque no se precisó el modelo ni las condiciones de esa medición; con el ancho de banda de la tarjeta (608 GB/s según Intel), esa cifra solo es alcanzable con un modelo de mezcla de expertos (MoE), que activa una fracción de sus parámetros en cada token, y no con uno denso de 80B.
Compatibilidad con modelos de IA y herramientas de desarrollo
La UGen Intel Arc Pro B70 cuenta con soporte para Intel LLM Scaler, vLLM XPU, Ollama, OpenVINO, oneAPI y PyTorch XPU, además de llama.cpp mediante SYCL y Vulkan. También es compatible con ComfyUI, una herramienta utilizada para generar imágenes mediante modelos de inteligencia artificial.
Intel LLM Scaler incorpora cuantización en línea mediante formatos INT4 y FP8, lo que elimina la dependencia de herramientas externas basadas en CUDA para realizar ese proceso.
Entre las familias de modelos verificadas por ASUS se encuentran:
- Llama 3.1 (8B y 70B) y Llama 3.2
- Qwen: familia 3.x
- DeepSeek-R1 Distill: versiones de 7B a 70B
- Mistral y Mixtral
- OpenAI gpt-oss: versiones de 20B y 120B
- Whisper-large-v3
- InternVL3.5
Aunque ASUS enumera estos modelos como verificados, no especifica cuántas tarjetas requiere cada una de sus versiones ni el rendimiento individual de todas las configuraciones.