DeepSeek R1, el modelo de inteligencia artificial (IA) que ha ganado popularidad, ahora está disponible en el ecosistema de Microsoft. La empresa lo agregó a Azure AI Foundry, permitiendo a los desarrolladores probar sus capacidades en la nube.
Microsoft anunció que versiones optimizadas de DeepSeek R1 llegarán a las PC Copilot+, comenzando con dispositivos Snapdragon X y expandiéndose a procesadores Intel y AMD.
Con esta incorporación, Azure AI Foundry ahora ofrece compatibilidad con varios modelos de IA, incluyendo GPT de OpenAI, Llama de Meta y Mistral. Además, Microsoft optimizó los modelos de DeepSeek para su uso en el ecosistema Windows.
TE PUEDE INTERESAR: Samsung da pistas sobre sus plegables 2025: mejor resistencia y nuevos modelos
DeepSeek R1 en PC: optimización y disponibilidad
- Los primeros modelos disponibles incluyen DeepSeek-R1-Distill-Qwen-1.5B, con versiones de 7B y 14B en camino.
- Microsoft optimizó el rendimiento separando las tareas entre CPU y NPU para mejorar la eficiencia.
- El tiempo hasta el primer token es de 130 ms, con una velocidad de 16 tokens por segundo para consultas cortas.
- Se usa cuantificación de 4 bits para reducir el uso de memoria sin comprometer la calidad del modelo.
- AI Toolkit para Visual Studio Code permite descargar y ejecutar estos modelos en PC sin conexión.
- La inferencia en el dispositivo busca mejorar la autonomía de la batería y reducir la dependencia de la nube.
Foto: Pexels.