Apple lanzó una familia de varios modelos de lenguajes grandes (LLM por sus siglas en inglés) de código abierto diseñados para ejecutarse en el dispositivo en vez de hacerlo por los servidores en la nube, tanto en dispositivos personales como en computadores portátiles o teléfonos móviles.
Se trata de OpenELM (Modelos de Lenguaje Eficientes de Código Abierto) y está conformada por ocho modelos con un tamaño que oscila entre 270 millones y 3.000 millones de parámetros.
Según los datos publicados por los investigadores de Apple, el enfoque es utilizar una técnica especial llamada ‘escalado capa por capa’ para ofrecer una buena precisión a pesar del tamaño reducido.
Los investigadores explican que la mitad de esos modelos fueron entrenados con la biblioteca de CoreNet y también con datos de Reddit, GitHub y Wikipedia, con una cantidad de entre 270 y 3.000 millones de parámetros.
TE PUEDE INTERESAR: VideoGigaGAN: Adobe Presenta IA Que Transforma Los Videos Borrosos En HD
Así es OpenELM, la nueva familia de modelos de lenguaje de Apple
- OpenELM está diseñado para portátiles o dispositivos móviles.
- De acuerdo con un documento técnico, los ingenieros de Apple consiguieron ejecutarlos en un MacBook Pro con chip M2 Max y 64 GB de RAM, así como en un computador con procesador Intel Core i9-13900KF con 64 GB en RAM y una GPU NVIDIA RTX 4090.
- Características clave de OpenELM:
- Eficiencia. Los modelos de OpenELM se han optimizado para ofrecer un alto rendimiento con recursos limitados.
- Privacidad. La IA de OpenELM se ejecuta localmente en los dispositivos, lo que garantiza la privacidad de los usuarios.
- Escalabilidad por capas. Apple ha aplicado una estrategia de escalamiento por capas dentro de cada modelo para maximizar la precisión.
- Disponibilidad para desarrolladores. Los modelos de OpenELM están abiertos para que los desarrolladores puedan utilizarlos y explorar su potencial.
- Debut en iOS 18 y iPadOS 18: Se espera que OpenELM, junto con otros modelos como ReALM y MM1, hagan su debut en las próximas versiones de iOS y iPadOS. Esto significa que veremos mejoras en Siri y otras aplicaciones que utilizan Inteligencia Artificial.
- OpenELM está disponible en HuggingFace bajo una licencia de código de muestra que permite tanto el uso comercial como la modificación. Sin embargo, es importante tener en cuenta que Apple no ofrece garantías sobre la seguridad o la precisión de los resultados que estos modelos puedan generar.
Foto: Gerd Altmann en Pixabay