AI INSIDER
  • INDUSTRIA
  • HISTORIAS
    • Empresas de IA
    • Personas
  • TECNOLOGÍA
  • GEOPOLÍTICA
  • AI INSIDER
    • NEWSLETTER
  • REFLEXIONES
AI INSIDER
  • INDUSTRIA
  • HISTORIAS
    • Empresas de IA
    • Personas
  • TECNOLOGÍA
  • GEOPOLÍTICA
  • AI INSIDER
    • NEWSLETTER
  • REFLEXIONES
  • INDUSTRIA
  • HISTORIAS
    • Empresas de IA
    • Personas
  • TECNOLOGÍA
  • GEOPOLÍTICA
  • AI INSIDER
    • NEWSLETTER
  • REFLEXIONES
AI INSIDER - ARTIFICIAL INTELLIGENCE NEWS
  • INDUSTRIA
  • HISTORIAS
    • Empresas de IA
    • Personas
  • TECNOLOGÍA
  • GEOPOLÍTICA
  • AI INSIDER
    • NEWSLETTER
  • REFLEXIONES
FundamentosMachine LearningTecnología

Qué es fine-tuning

El término fine-tuning aparece con frecuencia cuando se habla de adaptar modelos de inteligencia artificial a casos de uso concretos. A menudo se utiliza de forma imprecisa, como si fuera un ajuste menor o una simple configuración, cuando en realidad se trata de un proceso técnico con implicaciones claras en rendimiento, costes y riesgos.

Entender qué es el fine-tuning y cuándo tiene sentido aplicarlo es clave para tomar buenas decisiones al trabajar con modelos de lenguaje y otros modelos de machine learning.

Qué se va a explicar y por qué importa

Aquí se explica qué es el fine-tuning, para qué se utiliza, en qué se diferencia de otras formas de adaptación de modelos y qué errores habituales conviene evitar.

Comprenderlo permite distinguir entre personalización real de un modelo y simples técnicas de uso avanzado que no modifican el modelo en sí.

Qué es fine-tuning

El fine-tuning es un proceso mediante el cual se vuelve a entrenar un modelo ya existente utilizando un conjunto de datos adicional, normalmente más pequeño y específico que el usado en el entrenamiento original.

El objetivo es ajustar los parámetros internos del modelo para que se comporte mejor en una tarea concreta, un dominio específico o un estilo determinado.

No se parte de cero. Se parte de un modelo previamente entrenado que ya ha aprendido patrones generales del lenguaje, de imágenes o de datos estructurados, y se especializa a partir de ahí.

Contexto técnico

Los modelos grandes se entrenan primero con grandes volúmenes de datos generales. Ese entrenamiento inicial es costoso y aprende regularidades amplias.

El fine-tuning actúa como una fase posterior en la que el modelo ajusta sus pesos internos a partir de ejemplos más relevantes para el caso de uso deseado.

Desde el punto de vista técnico, implica:

  • Modificar los pesos del modelo.
  • Usar datos etiquetados o cuidadosamente seleccionados.
  • Optimizar el modelo para un objetivo más específico.

Esto lo diferencia claramente de técnicas que solo actúan en la entrada, como el prompting.

Para qué se utiliza el fine-tuning

El fine-tuning se utiliza cuando se necesita que un modelo:

  • Domine un dominio muy específico, por ejemplo legal, médico o técnico.
  • Mantenga un estilo consistente y controlado.
  • Siga instrucciones complejas de forma más fiable.
  • Reduzca errores sistemáticos en una tarea concreta.
  • Produzca salidas más predecibles en entornos profesionales.

No es la solución adecuada para todos los casos, pero puede marcar una diferencia clara cuando los requisitos son estrictos.

Diferencias con conceptos similares

Fine-tuning no es lo mismo que prompting avanzado. En el prompting se guía al modelo mediante instrucciones, ejemplos o contexto, pero el modelo no cambia internamente.

Tampoco es lo mismo que RAG. En los sistemas RAG se aporta información externa en tiempo de consulta, pero el modelo base sigue siendo el mismo.

En el fine-tuning, el modelo sí cambia. Aprende de los nuevos datos y modifica su comportamiento incluso cuando no se le proporciona contexto adicional.

Ejemplos de uso habituales

Algunos ejemplos habituales de fine-tuning son:

  • Ajustar un modelo para redactar documentos con un formato y tono muy específicos.
  • Especializar un modelo en responder preguntas sobre un tipo concreto de normativa.
  • Mejorar la clasificación de textos en un dominio concreto.
  • Adaptar un modelo a un estilo de lenguaje interno de una organización.

En todos estos casos, el valor está en la consistencia y la reducción de variabilidad.

Errores y malentendidos comunes

Un error habitual es pensar que el fine-tuning sirve para añadir conocimiento factual nuevo de forma fiable. No es su función principal.

Otro malentendido es creer que cualquier pequeño ajuste es fine-tuning. Cambiar prompts, parámetros o añadir contexto no es fine-tuning.

También es común subestimar el esfuerzo necesario. Requiere datos de calidad, evaluación rigurosa y control de sesgos.

Qué no es fine-tuning

No es simplemente darle más contexto al modelo.
No es cargar documentos externos en tiempo real.
No es una garantía automática de mejores resultados.
No es una técnica sin costes ni riesgos.

Conclusión

La idea clave es que el fine-tuning es una técnica de especialización real del modelo, no un truco de uso.

Implica modificar el modelo para adaptarlo a un objetivo concreto, con beneficios claros cuando se hace bien y con limitaciones que conviene entender.

Dentro del ecosistema de la inteligencia artificial, el fine-tuning es una herramienta potente, pero debe usarse con criterio, datos adecuados y una evaluación técnica seria.

Read More
FundamentosTecnología

Qué es un token en inteligencia artificial

Un token es una unidad mínima de texto que un modelo de lenguaje utiliza como entrada y como salida.

Los modelos no procesan frases ni palabras completas de forma directa. Procesan secuencias de tokens, que pueden representar:

  • Palabras completas.
  • Partes de palabras.
  • Símbolos.
  • Números.
  • Signos de puntuación.
  • Espacios o combinaciones frecuentes de caracteres.

El token es, por tanto, una unidad técnica, no lingüística.

Por qué los modelos usan tokens y no palabras

Contexto técnico

Los modelos de lenguaje se entrenan sobre texto convertido previamente en números. Para ello, el texto se divide en fragmentos estables y reutilizables que puedan representarse de forma eficiente en vectores.

Usar palabras completas tendría varios problemas:

  • El vocabulario sería enorme.
  • No gestionaría bien palabras nuevas o raras.
  • Sería ineficiente para distintos idiomas y variaciones morfológicas.

La tokenización permite:

  • Reutilizar fragmentos comunes.
  • Manejar palabras desconocidas.
  • Reducir el tamaño efectivo del vocabulario.
  • Trabajar de forma uniforme con distintos idiomas y estilos de texto.

Cómo se forman los tokens

Tokenización en la práctica

El proceso de dividir el texto en tokens se llama tokenización. Cada modelo utiliza un tokenizador concreto, entrenado junto al modelo.

Por ejemplo, una palabra como:

  • aprendizaje puede ser un token único.
  • O dividirse en varios tokens como aprendi y zaje.
  • Una palabra poco frecuente puede dividirse en fragmentos más pequeños.
  • Un número largo suele dividirse en varios tokens.
  • Los espacios también cuentan en muchos tokenizadores.

Esto significa que:

  • El mismo texto puede generar distinto número de tokens según el modelo.
  • Un token no equivale necesariamente a una palabra.

Como referencia aproximada en español e inglés, un token suele equivaler a unas 0,75 palabras, pero es solo una media orientativa.

Para qué sirven los tokens en un modelo de lenguaje

Los tokens son fundamentales en tres aspectos clave:

1. Entrada del modelo

Todo lo que se le pasa a un modelo, instrucciones, preguntas, contexto previo, se convierte en tokens antes de procesarse.

El límite de contexto de un modelo se mide en número máximo de tokens, no en caracteres ni en palabras.

2. Procesamiento interno

El modelo predice el siguiente token en función de los tokens anteriores. No razona en frases completas, sino en probabilidades de secuencias de tokens.

3. Salida del modelo

La respuesta generada también se produce token a token. El texto final es el resultado de convertir esos tokens de vuelta a texto legible.

Implicaciones prácticas del uso de tokens

Coste y precios

En muchos servicios de IA, el coste se calcula en función del número de tokens de entrada y de salida. Textos más largos implican más tokens y mayor coste.

Límite de contexto

El límite de contexto determina cuántos tokens puede manejar el modelo en total entre entrada y salida. Superar ese límite implica que el modelo no verá parte del texto.

Precisión y comportamiento

Cuando un texto es muy largo y se acerca al límite de tokens, el modelo puede:

  • Perder información inicial.
  • Responder de forma menos coherente.
  • Priorizar partes recientes del contexto.

Errores y malentendidos comunes

Confundir token con palabra

Un token no es una palabra. Puede ser menos o más que una palabra, dependiendo del caso.

Pensar que todos los modelos tokenizan igual

Cada modelo tiene su propio tokenizador. El mismo texto puede generar distintos tokens en modelos diferentes.

Creer que el límite se mide en caracteres

Los límites siempre se miden en tokens, no en letras ni en palabras.

Pensar que los tokens son solo un detalle técnico irrelevante

Los tokens afectan directamente al coste, al rendimiento, al contexto disponible y a la calidad de las respuestas.

Qué no es un token

  • No es una unidad semántica estable.
  • No representa necesariamente un concepto.
  • No equivale a una palabra, frase o idea.
  • No es algo que el modelo “entienda” como significado, sino como representación numérica.

La idea clave es sencilla pero importante:

Los modelos de lenguaje no trabajan con texto tal como lo leemos, sino con secuencias de tokens.

Entender qué es un token permite comprender mejor cómo funcionan los modelos de lenguaje, por qué tienen límites de contexto, cómo se calculan los costes y por qué a veces se comportan de forma aparentemente extraña.

Es un concepto básico, pero esencial, dentro del ecosistema técnico de la inteligencia artificial actual.

Read More
Sin categoría

Qué significa entrenar un modelo de IA

El término entrenar un modelo se usa constantemente en inteligencia artificial, pero a menudo se emplea de forma imprecisa.

Este concepto es central en machine learning, deep learning y, en particular, en los modelos de lenguaje y los sistemas basados en transformers.

Qué significa entrenar un modelo

Entrenar un modelo significa ajustar automáticamente sus parámetros internos a partir de datos, para que aprenda a realizar una tarea concreta sin que se le programen reglas explícitas una a una.

El resultado del entrenamiento no es una base de datos de respuestas, sino un conjunto de parámetros numéricos que codifican patrones aprendidos a partir de los datos.

Entrenar un modelo es el proceso mediante el cual un algoritmo aprende relaciones estadísticas en los datos para poder hacer predicciones o generar salidas coherentes ante nuevas entradas.

Qué ocurre técnicamente durante el entrenamiento

Aunque el proceso puede variar según el tipo de modelo, el esquema general siempre es el mismo.

1. Se define una tarea

Por ejemplo:

  • Predecir la siguiente palabra en un texto
  • Clasificar correos como spam o no spam
  • Reconocer objetos en imágenes
  • Predecir una variable numérica

La tarea determina qué significa “hacerlo bien”.

2. Se proporciona un conjunto de datos

El modelo se expone a muchos ejemplos relevantes para la tarea.

Estos datos pueden estar:

  • Etiquetados, como imágenes con su clase correcta
  • No etiquetados, como grandes corpus de texto
  • Generados o combinados a partir de múltiples fuentes

La calidad, diversidad y sesgos de estos datos son determinantes para el comportamiento final del modelo.

3. El modelo hace predicciones iniciales

Al principio, el modelo no sabe nada útil. Sus parámetros suelen estar inicializados de forma casi aleatoria.

Ante cada ejemplo, produce una salida que normalmente es incorrecta o poco precisa.

4. Se mide el error

La salida del modelo se compara con el resultado esperado mediante una función de pérdida.

Esta función cuantifica cuánto se ha equivocado el modelo y en qué dirección.

5. Se ajustan los parámetros

Mediante algoritmos de optimización como descenso de gradiente, los parámetros internos se ajustan ligeramente para reducir el error.

Este proceso se repite millones o miles de millones de veces.

Eso es el entrenamiento: un ciclo iterativo de prueba, error y ajuste numérico.

Qué se aprende realmente al entrenar un modelo

Un punto clave que suele generar confusión:

  • El modelo no memoriza reglas explícitas
  • Tampoco “entiende” el contenido en sentido humano
  • Aprende patrones estadísticos y regularidades

En el caso de los modelos de lenguaje, aprende qué secuencias de palabras son más probables dadas otras, no hechos verificados ni intenciones.

Diferencias importantes con conceptos parecidos

Entrenar vs programar

  • Programar implica escribir reglas explícitas
  • Entrenar implica definir un marco de aprendizaje y dejar que el modelo ajuste sus parámetros a partir de datos

El comportamiento final no está codificado línea a línea.

Entrenar vs utilizar un modelo

Cuando interactúas con un modelo ya entrenado, estás en fase de inferencia, no de entrenamiento.

Durante la inferencia:

  • Los parámetros están fijos
  • El modelo no aprende ni se actualiza

Entrenar vs afinar un modelo

El entrenamiento inicial suele hacerse desde cero con grandes volúmenes de datos.

El fine-tuning o ajuste fino es un reentrenamiento parcial sobre un modelo ya entrenado, con datos más específicos y en menor cantidad.

Casos de uso reales del entrenamiento

  • Modelos de lenguaje entrenados con grandes corpus de texto para generar y analizar lenguaje natural
  • Sistemas de recomendación entrenados con interacciones de usuarios
  • Modelos de visión entrenados con millones de imágenes
  • Sistemas de detección de fraude entrenados con históricos de transacciones

En todos los casos, el entrenamiento define qué sabe hacer el modelo y qué errores es más probable que cometa.

Errores y malentendidos comunes

“El modelo ha sido entrenado con mis datos”

En la mayoría de los casos, interactuar con un modelo no implica que tus datos se utilicen para entrenarlo.

Entrenamiento y uso son procesos distintos, separados en el tiempo y en la infraestructura.

“Entrenar es lo mismo que almacenar información”

No. El modelo no guarda textos, imágenes o ejemplos concretos como una base de datos.

Aprende distribuciones y relaciones, no copias literales.

“Si se entrena más, siempre mejora”

Más datos o más entrenamiento no garantizan mejores resultados.

También pueden amplificar sesgos, sobreajustar o degradar el rendimiento en tareas generales.

Conclusión

Entrenar un modelo no es enseñarle reglas ni cargarle conocimiento explícito. Es optimizar matemáticamente sus parámetros a partir de datos para que aprenda patrones útiles para una tarea concreta.

Comprender esto es esencial para interpretar correctamente qué puede hacer un sistema de IA, por qué falla y qué implica entrenarlo desde el punto de vista técnico, ético y regulatorio.

Read More
Sin categoría

Qué es un modelo de lenguaje (LLM)

Un modelo de lenguaje es un sistema de inteligencia artificial entrenado para predecir texto. Su tarea fundamental consiste en calcular cuál es el siguiente elemento más probable en una secuencia de lenguaje, a partir de lo que ha visto antes.

Cuando hablamos de LLM (Large Language Model) nos referimos a modelos de lenguaje entrenados con:

  • Grandes volúmenes de texto (de ahí el “large”)
  • Arquitecturas neuronales complejas (normalmente transformers)
  • Una enorme cantidad de parámetros

El resultado es un sistema capaz de generar, completar, resumir, traducir y transformar texto con un alto grado de coherencia lingüística.

Un punto importante: un LLM no entiende el lenguaje como lo hace una persona.

Opera sobre patrones estadísticos aprendidos a partir de datos, no sobre significados en sentido humano.

Cómo funciona a nivel conceptual

Un LLM no entiende el lenguaje como lo hace una persona. Su funcionamiento básico es el siguiente:

  1. El texto se divide en tokens (fragmentos de palabras, palabras completas o símbolos).
  2. El modelo recibe una secuencia de tokens como entrada.
  3. Calcula cuál es el token más probable que debería venir a continuación, según lo aprendido durante el entrenamiento.
  4. Repite el proceso token a token.

Este mecanismo se basa en arquitecturas de tipo transformers, que permiten manejar contexto largo y relaciones complejas entre palabras.

No hay comprensión semántica en el sentido humano. Hay correlaciones estadísticas muy sofisticadas.

Para qué sirve un LLM

Los modelos de lenguaje se utilizan como componentes base para múltiples aplicaciones, por ejemplo:

  • Asistentes conversacionales
  • Generación y resumen de textos
  • Traducción automática
  • Análisis de documentos
  • Clasificación de texto
  • Generación de código
  • Soporte a tareas de búsqueda y recuperación de información

En muchos casos, el LLM no se usa solo, sino integrado con sistemas adicionales como bases de datos, herramientas externas o capas de control.

Diferencias con otros conceptos cercanos

LLM vs IA en general

Un LLM es un tipo específico de sistema de IA.

No toda la inteligencia artificial es lenguaje ni todo sistema de IA es un LLM.

LLM vs chatbot

Un chatbot es una aplicación.

Un LLM es el modelo subyacente que puede usarse para construir un chatbot, entre muchas otras cosas.

LLM vs motor de búsqueda

Un motor de búsqueda recupera información existente.

Un LLM genera texto nuevo basado en patrones aprendidos.

Puede sonar informativo, pero no está consultando fuentes en tiempo real salvo que se le conecte explícitamente a ellas.

Qué NO es un modelo de lenguaje

Algunos malentendidos habituales:

  • No es una base de datos
  • No razona como una persona
  • No tiene intención, conciencia ni comprensión real
  • No distingue verdad de falsedad si no se le guía con mecanismos externos
  • No garantiza respuestas correctas aunque suene convincente

Los errores y las llamadas alucinaciones no son fallos puntuales, sino una consecuencia directa de cómo funciona el modelo.

Limitaciones importantes a tener en cuenta

  • Dependencia del entrenamiento: lo que sabe está condicionado por los datos utilzados en el entrenamiento del modelo.
  • Sesgos: puede reproducir sesgos presentes en los datos.
  • Falta de trazabilidad: no puede explicar de forma fiable por qué genera una respuesta concreta.
  • Sensibilidad al contexto: pequeños cambios en la entrada pueden producir respuestas distintas.

Por eso, en entornos críticos, un LLM nunca debería operar sin supervisión o controles adicionales.

Conclusión

Un modelo de lenguaje (LLM) es una tecnología diseñada para generar texto probable, no para entender el mundo ni decidir por sí misma. Su valor está en cómo se integra, se controla y se contextualiza dentro de sistemas más amplios.

Comprender esto es esencial para usar la IA de forma responsable, técnica y profesional dentro del ecosistema actual de la inteligencia artificial.

Read More
META Cómo funciona el cerebro
Sin categoría

Qué es Machine Learning

¿Qué es el Machine Learning?

¿Te has parado a pensar cómo es posible que una máquina, sin conciencia ni emociones, reconozca tu rostro, anticipe tus movimientos o te recomiende la canción perfecta según tu estado de ánimo?

Y sobre todo ¿cómo es capaz de lograrlo sin que nadie le haya dicho paso a paso lo que tiene que hacer?
La clave está en una de las ramas, para mí, más fascinantes de la inteligencia artificial: el machine learning, o aprendizaje automático.

machine-learning-que-es

A diferencia del software tradicional, que opera siguiendo un conjunto rígido de instrucciones predefinidas, el machine learning permite a los sistemas aprender directamente de los datos. Esto les otorga una capacidad casi “mágica”: identificar patrones en grandes cantidades de datos, descubrir relaciones y formular reglas propias para tomar decisiones de forma autónoma.

Del mismo modo que un niño necesita probar, equivocarse y adaptarse para aprender a caminar, un sistema de machine learning aprende a través de la experiencia, aunque con una ventaja crucial: puede analizar millones de ejemplos en fracciones de segundo, detectar variables invisibles al ojo humano y ajustar su comportamiento sin necesidad de haber “tocado suelo”.

Gracias al machine learning, muchas de las funciones que antes requerían supervisión humana directa ahora pueden realizarse de manera autónoma y, además, en tiempo real.

Podemos definir el machine learning como una rama de la Inteligencia Artificial que permite que los sistemas aprendan a partir de datos, y vayan ajustando sus parámetros internos para resolver problemas nuevos, sin necesidad de que tengamos que darles todas las instrucciones de antemano.

Dicho de otra forma, el machine learning permite que los modelos o sistemas aprendan no solo de la información que les damos o que reciben, sino que sean capaces por sí solos de generar nuevos conocimientos que nadie les ha mostrado o enseñado.

Read More
EUROPA SEMICONDUCTORES
Sin categoría

Europa llega tarde a la carrera de los semiconductores

La UE ha seleccionado al consorcio ChipDiplo para impulsar su diplomacia en el mercado de los semiconductores, pero por desgracia, no todo se soluciona con dinero.

EUROPA SEMICONDUCTORES

Seamos realistas: Europa depende enormemente de Taiwán y TSMC en cuanto a chips, igual que el resto del mundo. China ha visto frenados sus desarrollos tecnológicos porque las políticas exteriores le cortaron el acceso a TSMC, lo que demuestra que el tema de los semiconductores no se soluciona únicamente con inversión. Se trata de un ecosistema complejo que requiere años de investigación, infraestructura y, además, talento humano.

Europa tiene un problema estructural: su retraso no es solo tecnológico, sino también cultural y educativo. Países como Taiwán o Corea del Sur han invertido décadas en formar ingenieros y en integrar la innovación en sus economías, y a Europa le puede salir muy caro no haber prestado atención a esto.

No se trata solo de fondos, se necesita visión, talento y tiempo (cosas que no se compran de la noche a la mañana). Es ingenuo pensar que entrar tan tarde al juego, sin una estrategia, hará de la UE un competidor serio a corto o medio plazo 🙁

El caso de China es un buen ejemplo: a pesar de sus recursos, no tiene acceso a la tecnología puntera de TSMC, lo que pese a su fortaleza para innovar y el talento humano que han cultivado a lo largo de los años, siempre ralentiza todo.

La UE puede invertir miles de millones pero si no hay un plan a largo plazo para formar talento, atraer empresas clave y superar las trabas burocráticas internas, el esfuerzo se quedará en un simple intento.

No digo que sea imposible competir, o que la intención no sea buena, pero es MUY poco realista.

Read More
ernie
IA ChinaModelosTecnología

Las tecnologías de Baidu detrás de Ernie 4.5

1. “FlashMask” Dynamic Attention Masking

Qué es: “FlashMask” es una técnica avanzada de enmascaramiento dinámico de atención que optimiza cómo el modelo procesa la información de entrada. En los modelos de lenguaje basados en transformers (como ERNIE), el mecanismo de atención determina qué partes de los datos son más relevantes para una tarea dada. “FlashMask” introduce un enfoque dinámico y adaptable para este proceso.

  • En los transformers tradicionales, la atención se aplica de manera uniforme o estática a toda la entrada, lo que puede ser computacionalmente costoso y menos eficiente, especialmente con datos multimodales (texto, imágenes, audio, etc.). “FlashMask” ajusta el enfoque del modelo en tiempo real, “enmascarando” (ignorando) partes menos relevantes de los datos y concentrándose solo en las secciones críticas.
  • Por ejemplo, si el modelo analiza una imagen con texto, “FlashMask” puede priorizar las regiones con texto o elementos visuales clave en lugar de procesar cada píxel por igual. Esto reduce la carga computacional y acelera el procesamiento sin sacrificar precisión.
  • Ventajas: Mejora la velocidad del modelo (clave para aplicaciones en tiempo real) y permite manejar entradas más largas o complejas, como documentos extensos o videos, al evitar cálculos innecesarios.
  • Contexto técnico: Esta técnica probablemente se inspira en avances como el “Sparse Attention” de modelos como Sparse Transformers, pero con un enfoque más flexible y adaptado a datos multimodales.

2. Heterogeneous Multimodal Mixture-of-Experts (MoE)

Qué es: El enfoque “Heterogeneous Multimodal Mixture-of-Experts” (Mezcla de Expertos Multimodales Heterogéneos) es una arquitectura que divide el modelo en múltiples “expertos” especializados, cada uno optimizado para procesar un tipo específico de datos (texto, imágenes, audio, video), y luego combina sus resultados de manera inteligente.

  • En un modelo MoE tradicional, diferentes subredes (expertos) se encargan de tareas específicas, y un “router” decide qué experto procesa cada parte de la entrada. En ERNIE 4.5, esta idea se lleva al ámbito multimodal: hay expertos para texto, expertos para imágenes, expertos para audio, etc., y todos son “heterogéneos”, es decir, diseñados específicamente para su tipo de dato en lugar de ser copias genéricas.
  • Por ejemplo, si le das al modelo un video con subtítulos, el experto en video analizará el movimiento y las escenas, el experto en texto interpretará los subtítulos, y el experto en audio procesará el sonido, todo al mismo tiempo. Luego, un mecanismo de integración combina estas interpretaciones en una respuesta coherente.
  • Ventajas: Esto permite que ERNIE 4.5 sea extremadamente eficiente y preciso, ya que cada modalidad se procesa con un componente especializado en lugar de forzar a una red única a manejarlo todo. Además, reduce los recursos necesarios, ya que no todos los expertos se activan para cada tarea.
  • Contexto técnico: Este enfoque amplía el concepto de MoE visto en modelos como Google Switch Transformer o GLaM, pero con un énfasis en la heterogeneidad para datos multimodales, lo que lo hace único.

3. Spatiotemporal Representation Compression

Qué es: La “Compresión de Representaciones Espacio-Temporales” es una técnica que reduce el tamaño y la complejidad de las representaciones internas del modelo cuando procesa datos con dimensiones espaciales (como imágenes) y temporales (como audio o video), manteniendo la información esencial.

  • Los datos multimodales, especialmente videos o secuencias largas, generan representaciones internas masivas dentro de un modelo de IA. Por ejemplo, un video de 10 segundos podría implicar miles de frames visuales y muestras de audio, lo que requiere una enorme cantidad de memoria y potencia de cálculo.
  • Esta tecnología comprime estas representaciones al identificar patrones redundantes o menos importantes en el espacio (por ejemplo, áreas de una imagen que no cambian) y el tiempo (momentos de silencio en un audio). En lugar de almacenar cada detalle, el modelo guarda una versión condensada que conserva el significado.
  • Ejemplo práctico: Si analizas un video de una persona hablando, la compresión podría enfocarse en los cambios en la boca y el sonido, ignorando el fondo estático. Esto permite procesar contenido más largo y complejo sin agotar los recursos.
  • Ventajas: Aumenta la eficiencia energética y computacional, haciendo que ERNIE 4.5 sea viable para dispositivos con menos potencia o para manejar tareas masivas como analizar horas de video.
  • Contexto técnico: Se basa en ideas de compresión de datos como las usadas en codecs de video (H.264, H.265), pero aplicadas a las representaciones neuronales internas del modelo.

4. Knowledge-Centric Training Data Construction

Qué es: La “Construcción de Datos de Entrenamiento Centrados en el Conocimiento” se refiere a un método de curación de datos en el que el entrenamiento de ERNIE 4.5 se enfoca en información rica en conocimiento, como textos académicos, bases de datos estructuradas y contenido verificado, en lugar de depender únicamente de datos masivos y desordenados scrapeados de internet.

  • Muchos modelos de IA se entrenan con enormes cantidades de datos de la web, que a menudo incluyen ruido, información errónea o contenido irrelevante. En cambio, este enfoque selecciona datos que maximizan la densidad de conocimiento útil: enciclopedias, artículos científicos, manuales técnicos, etc.
  • Además, los datos se organizan para enfatizar relaciones entre conceptos (por ejemplo, conectar “física” con “leyes de Newton” de manera explícita), lo que mejora la capacidad del modelo para razonar y responder preguntas complejas.
  • Ejemplo práctico: Si le preguntas sobre el cambio climático, ERNIE 4.5 podría recurrir a datos estructurados de informes científicos en lugar de opiniones aleatorias de redes sociales, dando una respuesta más precisa y fundamentada.
  • Ventajas: Mejora la calidad de las respuestas, reduce las alucinaciones y hace que el modelo sea más confiable para aplicaciones profesionales o educativas.
  • Contexto técnico: Este método recuerda a técnicas como el “Knowledge-Augmented Training” de modelos como REALM o RAG, pero con un enfoque más deliberado en la selección inicial de datos.

5. Self-feedback Enhanced Post-Training

Qué es: El “Entrenamiento Posterior Mejorado por Retroalimentación Propia” es un proceso en el que el modelo se autoevalúa y ajusta después de su entrenamiento inicial, utilizando sus propias predicciones y errores para refinarse sin necesidad de intervención humana constante.

  • Después de entrenar un modelo con datos iniciales, suele haber un paso de “fine-tuning” (ajuste fino) supervisado por humanos o con datos etiquetados adicionales. En este caso, ERNIE 4.5 utiliza un enfoque de autoaprendizaje: genera respuestas, evalúa su calidad (por ejemplo, comparándolas con un objetivo o detectando incoherencias), y ajusta sus parámetros para mejorar.
  • Este proceso puede incluir técnicas como el aprendizaje por refuerzo (donde el modelo “se recompensa” por respuestas correctas) o el análisis de consistencia (donde revisa si sus respuestas son lógicas en diferentes contextos).
  • Ejemplo práctico: Si el modelo responde mal a una pregunta matemática, podría detectar el error al verificar el cálculo y corregirse a sí mismo en iteraciones posteriores.
  • Ventajas: Reduce la dependencia de datos etiquetados costosos y permite que el modelo se adapte continuamente a nuevas tareas o contextos, mejorando con el tiempo.
  • Contexto técnico: Se asemeja al “Self-Supervised Learning” o al “Reinforcement Learning from AI Feedback” (RLAIF), pero aplicado específicamente al posentrenamiento para pulir habilidades multimodales.

Cómo se integran estas tecnologías

Estas cinco innovaciones trabajan en conjunto para hacer de ERNIE 4.5 un modelo eficiente, potente y multimodal:

  • “FlashMask” y “Spatiotemporal Compression” optimizan el uso de recursos, permitiendo manejar datos complejos rápidamente.
  • “Heterogeneous MoE” asegura que cada tipo de dato sea procesado por un especialista, mejorando la precisión.
  • “Knowledge-Centric Training” y “Self-feedback Post-Training” garantizan que las respuestas sean de alta calidad y se perfeccionen con el tiempo.

Conclusión

AspectoERNIE 4.5ERNIE X1
EnfoqueMultimodalidad y versatilidadRazonamiento profundo
FortalezasComprensión/generación multimodalLógica, planificación, herramientas
Costo (API)Más barato ($0.00056-$0.00224/1k)Barato pero mayor ($0.28-$1.10/1M)
AudienciaGeneral, empresas, creativosTécnicos, desarrolladores
RendimientoSupera GPT-4.5 (multimodal)Igual a DeepSeek R1 (razonamiento)
Read More
earnie x1 y 4.5 IA China
IA ChinaSin categoría

ERNIE 4.5 y X1: los nuevos modelos que parecen superar a DeepSeek y GPT 4.5

China vuelve a hacerlo: Baidu lanza dos nuevos modelos, ERNIE 4.5 y X1, que parecen superar a GPT 4.5 y al mismo DeepSeek.

Esta mañana mientras preparaba una presentación en la que mencionaba, entre otros, a ERNIE (un modelo chino creado en 2019) me enteraba de que sus creadores lanzaban dos modelos y parece que tengo que modificar bastante la presentación porque se trata de algo serio 😉

Su nombre ya nos da alguna pista: ERNIE (Enhanced Representation through kNowledge Integration): a diferencia de los modelos alimentados con grandes cantidades de datos scrapeados de internet, ERNIE prefiere incorporar conocimiento exacto, verificado y estructurado.

Con ello consigue no solo reducir las alucinaciones sino necesitar menos datos y mejorar la comprensión contextual, especialmente con caracteres chinos.

Qué tienen de especial:

ERNIE 4.5:

Es un modelo multimodal capaz de procesar texto, imágenes, audio y video de forma conjunta desde su diseño base y algunos benchmark lo sitúan por encima de GPT 4.5, lanzado hace unos días.

ERNIE X1:

Es el modelo razonador (que compite con DeepSeek R1 y con o1 de openAI) especialmente bueno en tareas como matemáticas o código y también incorpora búsqueda avanzada.

ERNIE 4.5 y X1 están disponibles a través de https://yiyan.baidu.com/ y como como código abierto el 30 de junio de 2025.

earnie x1 y 4.5 IA China

Qué tienen de especial en cuanto a su entrenamiento:

✴️ “FlashMask” Dynamic Attention Masking:

Optimiza la atención en datos relevantes, mejorando la eficiencia del modelo en entradas complejas.

En los transformers la atención se aplica e manera uniforme o estática a toda la entrada (computacionalmente es más costoso). “FlashMask” enmascara (o ignora) partes menos relevantes y se centra solo en lo importante, sea imagen o texto.

✴️Heterogeneous Multimodal Mixture-of-Experts:

Como un MoE pero que, además, divide a los “expertos” en diferentes tipos de datos (texto, imagen, etc.) y luego los combina para procesarlos mejor. El hecho de que cada experto lo sea en ese tipo de datos lo enriquece y lo hace más exacto.

✴️Spatiotemporal Representation Compression:

Comprime datos con dimensiones espaciales (como una imagen) y temporales (como video y audio). Además identifica patrones redundantes como por ejemplo (explicado de forma super simplificada) si hay una persona hablando en el vídeo y el fondo no varía, el modelo optimiza los recursos centrándose en la persona y no “gasta” recursos en volver a cargar el fondo.

✴️Knowledge-Centric Training Data:

Como decíamos antes, se entrena con datos correctos y fiables (académica, bases de datos…) para reducir alucinaciones y errores.

✴️Self-feedback Enhanced Post-Training:

Es como una autoevaluación y autocoreección para mejorar precisión y coherencia.

Respecto a hardware creo que aún no hay mucha información pero parece que hanutilizado GPUs de Nvidia (A100 o H100) y los chips de la propia Baidu, Kunlun.

Read More
manus AI AGENTE
Tecnología

Casos de uso de Manus.ai

Estos son algunos de los casos de uso de Manus.ai que ponen como ejemplo:

Planificación y organización personal
Planificación de viajes personalizada:
Manus integra información basada en las preferencias del usuario para crear itinerarios detallados y un manual de viaje personalizado (por ejemplo, un viaje de 5 días a París con recomendaciones de museos y compras).

Gestión de horarios: Programa entrevistas u organiza agendas, como coordinar 40 candidatos con una gestión óptima del tiempo.

Creación de guías personalizadas: Genera manuales o folletos descargables para viajes u otros eventos, incluyendo mapas y recomendaciones.

CASOS USO MANU AI AGENT - China ai

Análisis de datos y visualización
Análisis de ventas de tiendas en línea:
Sube datos de ventas de Amazon y Manus proporciona insights accionables, visualizaciones detalladas y estrategias para aumentar las ventas.

Análisis de tendencias del mercado: Captura cambios en el sentimiento del mercado hacia empresas como Amazon durante los últimos cuatro trimestres mediante investigación y análisis de datos.

Análisis de acciones en profundidad: Realiza estudios detallados de acciones y diseña dashboards visualmente atractivos con información completa sobre las tendencias bursátiles.

Visualización de datos para presentaciones: Procesa datos subidos por el usuario para generar gráficos, análisis de tendencias o tableros interactivos.

CASOS USO MANU AI AGENT - China ai

Investigación y recopilación de información
Investigación exhaustiva en la web:
Realiza investigaciones profundas en toda la red para encontrar las fuentes más adecuadas según las necesidades del usuario (por ejemplo, tendencias del mercado de energía para 2025).

Listado de empresas B2B: Visita sitios como el de Y Combinator para identificar empresas B2B del lote W25 y organiza la información en una tabla estructurada.

Mapeo de clientes B2B: Describe un negocio y perfiles de clientes objetivo, y Manus genera un mapeo completo de clientes potenciales.

CASOS USO MANU AI AGENT - China ai

Creación de contenido educativo y profesional
Materiales para presentaciones escolares:
Crea materiales de video para profesores de secundaria explicando conceptos como el teorema del momento, incluyendo mapas de visualización auto-generados (por ejemplo, para la Batalla de Lexington).

Teleprompter para discursos: Genera archivos de presentación personalizados con velocidad ajustable, tamaño de fuente y alta legibilidad.

Simulación de roles: Ejecuta simulaciones como interpretar al presidente Zelenskyy para presentaciones o ejercicios educativos.

Comparación y toma de decisiones
Comparación de pólizas de seguros:
Analiza pólizas de seguro y crea tablas comparativas claras con recomendaciones de decisión óptimas.

Comparación de documentos: Descomprime y compara archivos (como contratos) para generar tablas con diferencias clave.

Desarrollo y generación de código
Escritura de código ejecutable:
Genera y prueba código en lenguajes como Python para tareas como visualización de datos, entregando programas o scripts funcionales.

Creación de páginas web: Diseña y genera páginas web de exhibición basadas en requisitos específicos (por ejemplo, una página que muestre datos de ventas).

Automatización de tareas empresariales
Análisis de informes financieros:
Procesa datos financieros para generar informes detallados con visualizaciones.

Gestión de proveedores: Investiga y encuentra proveedores adecuados en la web, optimizando la eficiencia en la procurement y reduciendo costos.

Benchmarking de la industria: Analiza el panorama competitivo (por ejemplo, en la industria de CRM) y entrega informes estructurados.

manus AI AGENTE
Read More
manus AI AGENTE
Tecnología

Manus AI Agent: llega la automatización inteligente y autónoma

“Tengo que ponerme al día de todas las novedades sobre IA de estas dos semanas”.

Con este (ahora sé que demasiado inocente) pensamiento me iba a dormir ayer después de dos semanas complicadas de trabajo, clases y otras cientos de cosas que me han impedido leer a diario todas las noticias que acostumbro a leer.  Así que imaginad como casi me tiro el café encima cuando leo esta mañana que tenemos un nuevo “momento DeepSeek”.

MANUS AI AGENT es la nueva revolución que viene de China en el campo de la Inteligencia Artificial y en concreto, de los agentes (sí, de eso de lo que algunos locos llevamos más de un año hablando y que parecía no terminar de interferir en nuestras vidas).

Hace apenas dos días, Pete de Manus.ai presentaba lo que, según sus propias palabras, habían estado construyendo silenciosamente y que ya se define como la próxima evolución en IA. 

El nombre Manus proviene de “mens et manus”, mente y mano y se basa en la creencia de que el conocimiento debe aplicarse para tener un impacto significativo en el mundo.

Esta primera preview de Manus, el primer agente de IA general viene explicada así:  “Esto no es solo otro chatbot o flujo de trabajo automatizado. Es un agente verdaderamente autónomo que cierra la brecha entre la concepción y la ejecución. Mientras que otras IA se detienen en generar ideas, Manus entrega resultados. Lo vemos como el próximo paradigma de colaboración humano-máquina y potencialmente un vistazo a la AGI.”

En el siguiente vídeo nos lo explica a través de tres tareas completamente distintas: 

1. Filtrar currículums. Se le envía un archivo zip que contiene 10 CVs. Como cada agente de Manus tiene su propio ordenador, puede trabajar como un humano, primero descomprimiendo el archivo, luego navegando por cada página del currículum y registrando información importante en documentos. Manus trabaja de forma asincrónica en la nube, lo que significa que puedes cerrar tu laptop en cualquier momento, y Manus te notificará cuando todo esté terminado. Le puedes dar más curriculums, decirle que presente la info en una hoja de cálculo o nuevas instrucciones.

El resultado: Después de leer cuidadosamente los 15 currículums, Manus proporciona sus sugerencias de clasificación, junto con perfiles de candidatos y criterios de evaluación como materiales de apoyo.

2. Le pedimos que filtre información de Nueva York basándose en múltiples criterios. Para las tareas complejas, al tratarse de un agente, Manus primero las desglosa y después crea una lista de tareas.

Manus comienza buscando y leyendo cuidadosamente artículos sobre los vecindarios, escuelas y escribe un programa en Python para calcular tu presupuesto. Filtrando por presupuestos y combinando toda la información, escribe un informe detallado y recopila todos los recursos. 

3. En el tercer ejemplo, Manus puede acceder a fuentes de datos autorizadas a través de APIs,  validar los datos adquiridos, y escribir código para el análisis y visualización de datos. 

Pero si queremos más, como veis en el vídeo le podemos incluso pedir que cree una web basado en estos datos. Si le damos permiso.

La promesa es hacer de código abierto algunos de estos modelos específicamente post-entrenados para Manus.

Read More
  • 1
  • …
  • 6
  • 7
  • 8
  • 9
  • 10
  • …
  • 12

AI insider

AI insiderAI insider
AI insiderAI insider
AI INSIDER - ARTIFICIAL INTELLIGENCE NEWS
get in touch
info@aiinsider.es
X / twitter
linkedIn
Newsletter
  • TERMINOS Y CONDICIONES
  • POLÍTICA DE COOKIES
  • POLÍTICA DE PRIVACIDAD
  • AVISO LEGAL
  • Acceso Suscriptores
  • Suscríbete
  • TERMINOS Y CONDICIONES
  • POLÍTICA DE COOKIES
  • POLÍTICA DE PRIVACIDAD
  • AVISO LEGAL
  • Acceso Suscriptores
  • Suscríbete

AI INSIDER – Copyright © 2024 

BACK TO TOP