Meta se lanza a la palestra con el anuncio de Llama 3, su nuevo modelo de IA de gran tamaño (LLM) que promete superar a la competencia en varios aspectos. Esta nueva versión llega con importantes mejoras en rendimiento y optimización, posicionándose como un fuerte contendiente en el panorama actual de la IA.
Superando a los Gigantes
Según Meta, Llama 3 supera a Google Gemini Pro y Anthropic Claude 3 en 3 de 5 pruebas clave, incluyendo MMLU, HumanEval y GSM-8K. Esto demuestra el potencial de este nuevo modelo, aunque cabe destacar que Meta no menciona a GPT-4, el modelo detrás de ChatGPT, que teóricamente fue superado por Gemini y Claude 3.
Dos Versiones, Dos Potencias
Llama 3 se presenta en dos versiones:
- 8B: Con 8 mil millones de parámetros, este modelo se posiciona como una opción potente para diversas tareas.
- 70B: Con 70 mil millones de parámetros, esta versión se enfrenta a los pesos pesados de la IA, incluyendo Gemini Pro 1.5 y Claude 3 Sonnet.
Optimizado para el Hardware de Vanguardia
Llama 3 llega con la optimización para hardware de Intel y NVIDIA, lo que significa un salto importante en rendimiento.
- Intel: Los procesadores Xeon y Core Ultra, junto con las gráficas Arc y aceleradores Gaudi, se benefician de las tecnologías AMX y XMX para ofrecer un rendimiento hasta dos veces superior en Llama 3.
- NVIDIA: Las GPU H100 de NVIDIA entrenaron el modelo de Meta utilizando 24.576 unidades. Una sola GPU NVIDIA H200 puede procesar 3000 tokens por segundo, permitiendo atender a 300 usuarios simultáneos, mientras que un NVIDIA HGX podría manejar hasta 2400 usuarios a la vez.
Un Futuro Brillante para la IA:
Llama 3 representa un avance significativo en la tecnología de IA y abre un sinfín de posibilidades para el futuro. Su rendimiento superior, optimización para hardware de última generación y enfoque en la accesibilidad lo convierten en una herramienta poderosa para diversas aplicaciones. Sin duda, Llama 3 es un jugador a tener en cuenta en el panorama de la IA en constante evolución.
Meta ha dado un paso importante con el lanzamiento de Llama 3, y será interesante ver cómo este nuevo modelo se desenvuelve en el mercado y contribuye al avance de la IA en su conjunto.
Gracias