Qualcomm propone enterrar el cómputo bajo la DRAM para alcanzar en IA

La industria del procesamiento de inteligencia artificial se enfrenta a un obstáculo creciente: el flujo constante de datos entre la memoria y los núcleos de cómputo consume una cantidad ingente de energía y lastra el rendimiento. Qualcomm ha presentado una estrategia radical para sortear este cuello de botella: integrar el cómputo directamente bajo la DRAM. Su nueva arquitectura, denominada High-Bandwidth Compute (HBC), apila capas de memoria sobre los aceleradores XPU para formar módulos unificados, reduciendo drásticamente la distancia que los datos deben recorrer. Este enfoque, que la compañía comercializará a partir de 2027 en sus sistemas Dragonfly AI250, promete multiplicar el ancho de banda efectivo sin recurrir a interposers de silicio costosos ni a los tradicionales stacks de HBM. Pero más allá de las cifras de marketing —con promesas de 768 GB de capacidad y 133 TB/s de ancho de banda “efectivo”—, lo relevante es el cambio de paradigma: la computación cercana a la memoria (near-memory compute) podría redefinir las economías de inferencia frente a las GPU convencionales.

La propuesta de Qualcomm no es completamente original; empresas como d-Matrix ya exploran integraciones similares, y se rumorea que tanto Nvidia como AMD desarrollan bases lógicas personalizadas con TSMC para optimizar el movimiento de datos. La ventaja de Qualcomm radica en su apuesta por memoria LPDDR apilada en 3D, lo que evita los caros interposers y permite un consumo reducido. Al realizar operaciones intensivas en ancho de banda —como la etapa de decodificación en modelos de lenguaje— directamente en el dado base que está bajo la DRAM, se minimiza la transferencia hacia el SoC principal. Este diseño multiplica el ancho de banda efectivo porque los datos no tienen que viajar largas distancias. Para las empresas que despliegan modelos de IA generativa, esta eficiencia energética se traduce en menor coste por inferencia y, potencialmente, en una huella de carbono reducida.

Sin embargo, el éxito de HBC no depende solo del hardware. Qualcomm ha adquirido Modular, startup creadora de Mojo, un lenguaje de programación de bajo nivel para GPUs que ofrece una alternativa neutral a CUDA. La idea es que los desarrolladores puedan escribir aplicaciones de inteligencia artificial que funcionen tanto en GPU de Nvidia como en aceleradores de Qualcomm o AMD, sin retoques manuales intensivos. Esta capa de software neutral, junto con la plataforma de serving Max (similar a vLLM o SGLang), busca romper el foso que durante años ha protegido a CUDA. Para las compañías que quieren desplegar soluciones de IA para empresas, contar con un ecosistema que no las ate a un único vendedor es una ventaja estratégica inmensa.

En este contexto de transformación, las organizaciones necesitan acompañamiento técnico para diseñar infraestructuras que aprovechen estas innovaciones. En Q2BSTUDIO desarrollamos software a medida que integra inteligencia artificial, desde la optimización de modelos hasta la orquestación de inferencia heterogénea. También ofrecemos servicios cloud AWS y Azure para desplegar cargas de trabajo de IA a escala, así como servicios de inteligencia de negocio con Power BI que permiten monitorizar el rendimiento de estos sistemas en tiempo real. Nuestro equipo puede ayudarle a diseñar aplicaciones a medida que incorporen agentes IA, combinando diferentes aceleradores según las necesidades de prefill y decodificación, exactamente la estrategia que Qualcomm plantea para sus sistemas Dragonfly.

Más allá del hype comercial, la arquitectura HBC de Qualcomm representa un paso firme hacia la computación desagregada, donde diferentes chips especializados se encargan de distintas fases del proceso inferencial. Esto obliga a repensar la forma en que se diseñan los data centers: la refrigeración, el balanceo de cargas y la seguridad de la información se vuelven aún más críticos. Nuestro servicio de ciberseguridad ayuda a proteger estas arquitecturas distribuidas frente a amenazas cada vez más sofisticadas. Si su empresa está evaluando cómo adoptar IA generativa de forma eficiente, rentable y segura, contar con un partner que entienda tanto el hardware como el software es diferencial. La propuesta de Qualcomm demuestra que el futuro de la infraestructura de inteligencia artificial no está solo en chips más rápidos, sino en cómo integramos la memoria y el cómputo de manera inteligente. Y en ese camino, las decisiones de software a medida y la correcta elección de entornos cloud marcarán la diferencia entre proyectos que escalan y los que se quedan en pruebas de concepto.