Anthropic, una de las empresas líderes en el campo de la inteligencia artificial, parece estar inmersa en el desarrollo de su primer ASIC (circuito integrado de aplicación específica) diseñado específicamente para IA. Este proyecto, que contaría con Broadcom como socio de diseño y Samsung Foundry para la fabricación, promete características técnicas de vanguardia que podrían redefinir la infraestructura para modelos de IA.

Especificaciones de vanguardia para la IA del futuro

Las recientes filtraciones, atribuidas a Jukan, revelan datos sobre este acelerador que lo posicionan como una pieza clave para la computación en centros de datos. Entre las especificaciones más destacadas se encuentran:

  • Rendimiento: Aproximadamente 4.000 TOPS (Tera Operaciones Por Segundo) en operaciones INT8.
  • Consumo energético: Un TDP (Thermal Design Power) de 1.300W por chip, indicando su orientación a infraestructuras de alta demanda.
  • Memoria: Integraría 192 GB de memoria HBM3E, con la posibilidad de escalar hasta 288 GB, crucial para manejar grandes modelos y conjuntos de datos.
  • Proceso de fabricación: Samsung SF2 de 2 nm, utilizando transistores GAA y litografía EUV, lo que representa la tecnología más avanzada en la producción de semiconductores.
  • Conectividad: Se menciona PCIe 7.0 con 8 o 16 líneas como opción preferida.
  • Producción inicial: Se estima un volumen inicial de aproximadamente 200.000 unidades.

Estas cifras, aunque no confirmadas oficialmente por Anthropic, Broadcom o Samsung, sugieren un compromiso con la creación de una solución de hardware altamente optimizada. La participación de Broadcom, reconocida por su experiencia en el desarrollo de ASICs personalizados para grandes operadores de infraestructura de IA, refuerza la plausibilidad de esta estrategia. El objetivo sería controlar mejor los costes, el suministro y la arquitectura, reduciendo la dependencia de aceleradores comerciales genéricos.

El papel de Samsung y Broadcom en la cadena de suministro

La colaboración con Samsung Foundry para la fabricación en su nodo SF2 de 2 nm es un movimiento estratégico. Para Samsung, asegurar un cliente de la talla de Anthropic para su proceso de fabricación más avanzado sería un hito importante, permitiéndole competir de manera más efectiva con otros gigantes del sector. Además, la integración del ASIC con las pilas HBM requeriría una solución de encapsulado de alto ancho de banda, como la tecnología I-Cube 2.5D de Samsung, comparable a CoWoS de TSMC.

La combinación de un diseño personalizado de Broadcom, la fabricación de vanguardia de Samsung y la visión de Anthropic para la IA podría dar lugar a una plataforma sumamente potente y eficiente.

La elección de HBM3E también es relevante. Aunque HBM4 podría estar en el horizonte para aceleradores de nueva generación, HBM3E ofrece un equilibrio entre capacidad, ancho de banda y madurez, elementos críticos para un proyecto de esta envergadura. La capacidad de memoria es tan vital como el rendimiento de cálculo, ya que asegura que las unidades de procesamiento estén constantemente alimentadas con datos.

Implicaciones a largo plazo para la infraestructura de IA

Una producción inicial de 200.000 unidades, aunque considerable, sugiere una fase de validación. Anthropic buscaría probar la viabilidad económica y operativa de su plataforma antes de escalar la producción. Desarrollar un acelerador personalizado no solo implica el silicio, sino también la evolución conjunta de redes, servidores, sistemas de alimentación, refrigeración y software.

Si este diseño cumple con los objetivos, Anthropic podría reducir significativamente su dependencia de GPUs externas, optimizando el hardware para los patrones de cálculo específicos de sus modelos de IA. Sin embargo, los costes asociados al desarrollo de una infraestructura tan especializada son enormes, y el ahorro a largo plazo debería compensar esta inversión inicial.

Este proyecto representa un paso audaz hacia la autonomía de hardware en el ámbito de la inteligencia artificial, con el potencial de establecer nuevos estándares de rendimiento y eficiencia para el procesamiento de modelos complejos. La industria de la IA observa con atención cómo se desarrollan estos avances que podrían moldear el futuro de la computación.