Microsoft presentó sus primeros chips personalizados para inteligencia artificial (IA) en la nube. La compañía aclaró que no planea vender los chips, sino que los utilizará para impulsar sus propias ofertas de software y como parte de su servicio de computación en la nube Azure.
De acuerdo con el sitio web The Verge, el chip Azure Maia AI de Microsoft y la CPU Azure Cobalt impulsada por Arm llegarán en 2024.
«En realidad, Microsoft tiene una larga trayectoria en el desarrollo de silicio», explica Rani Borkar, jefe de infraestructura y sistemas de hardware de Azure en Microsoft, en una entrevista con The Verge.
Microsoft colaboró en el silicio para Xbox hace más de 20 años e incluso ha codiseñado chips para sus dispositivos Surface. «Estos esfuerzos se basan en esa experiencia», dice Borkar.
TE PUEDE INTERESAR: Microsoft Copilot En La Web: Ahora Puedes Usar La IA Desde Cualquier Dispositivo
Cómo son los chips de Microsoft
El nuevo chip Azure Maia AI y la CPU Azure Cobalt se construyen internamente en Microsoft. Ambos combinados con una profunda revisión de toda su pila de servidores en la nube para optimizar el rendimiento, la energía y el costo.
Azure Cobalt
- La CPU Azure Cobalt, que lleva el nombre del pigmento azul, es un chip de 128 núcleos construido sobre un diseño CSS de Arm Neoverse y personalizado para Microsoft.
- Azure Cobalt está diseñado para potenciar los servicios generales en la nube en Azure.
- Actualmente, Microsoft está probando su CPU Cobalt en cargas de trabajo como Microsoft Teams y SQL Server. Con planes de poner a disposición de los clientes máquinas virtuales el próximo año para una variedad de cargas de trabajo.
- Microsoft aún no comparte las especificaciones completas del sistema ni los puntos de referencia.
Azure Maia 100
- El acelerador de IA Maia 100 de Microsoft está diseñado para ejecutar cargas de trabajo de IA en la nube, como entrenamiento e inferencia de modelos de lenguaje de gran tamaño.
- Se utilizará para impulsar algunas de las cargas de trabajo de IA más grandes de la compañía en Azure. Incluidas partes de la asociación multimillonaria con OpenAI, donde Microsoft impulsa todas las cargas de trabajo de OpenAI.
- Microsoft ha estado colaborando con OpenAI en las fases de diseño y prueba de Maia.
- Fabricado con un proceso TSMC de 5 nanómetros, Maia tiene 105 mil millones de transistores, alrededor de un 30% menos que los 153 mil millones que se encuentran en el competidor Nvidia de AMD, la GPU AI MI300X.
- Microsoft se basa en el trabajo colaborativo y abierto del Open Compute Project (OCP) para adaptar sistemas completos a las necesidades de la IA.
- Maia 100 se está probando actualmente en GPT 3.5 Turbo, el mismo modelo que impulsa ChatGPT, cargas de trabajo de Bing AI y GitHub Copilot.
- Microsoft se encuentra en las primeras fases de implementación y, al igual que Cobalt, todavía no está dispuesto a publicar especificaciones exactas de Maia ni pruebas de rendimiento.
Foto: Microsoft.