La carrera por el desarrollo de modelos base de robots acaba de dar la bienvenida a un nuevo participante. Un equipo conjunto formado por la Universidad de Pekín, la Universidad de Tsinghua, Galaxy General y el Instituto Zhiyuan ha presentado LDA-1B, lo que eleva el tamaño de los parámetros directamente a la escala de los mil millones.
Detrás de esta cifra se esconde una idea más audaz: dejar de centrarse únicamente en los datos de demostración de los expertos. Esos “datos basura” que antes se tiraban a la papelera podrían ser, en realidad, los nutrientes que los robots realmente necesitan.
El método tradicional de entrenamiento de los robots es sencillo: se busca a un operador experto, se graban sus acciones y se deja que el robot aprenda por imitación. Este enfoque de clonación de comportamientos ha sido ampliamente utilizado por OpenAI y Google DeepMind. Pero el problema es evidente: el aprovechamiento de los datos es extremadamente bajo.
¿Un intento fallido de construir un robot? Descartado.
¿Un vídeo de una operación humana grabado de forma espontánea? No es de buena calidad, descartado.
¿Datos procedentes de otra plataforma robótica? Formato incompatible, se descartan igualmente.
El LDA-1B El equipo planteó una pregunta sencilla: ¿qué pasaría si se aprovecharan todos esos datos que se desperdician?
Cómo utiliza LDA-1B todos los datos disponibles
Crearon un conjunto de datos denominado EI-30k: 30 000 horas de datos de interacción corporal, que abarcan tanto las operaciones humanas como las trayectorias de los robots.
Esta escala ya es enorme en el ámbito de la robótica. A modo de comparación, el conjunto de datos más grande hasta la fecha, Open X-Embodiment, contaba con algo más de 1.000 horas.
Pero la clave no es la escala. La clave es la diversidad.
El conjunto de datos incluye:
- Demostraciones exitosas e intentos fallidos
- Datos de robots de alta precisión y vídeos grabados de forma espontánea por personas
- Manipulaciones con dos brazos y movimientos diestros de las manos
Según los criterios tradicionales, gran parte de estos datos son incoherentes y nunca se incluirían en un conjunto de entrenamiento.
LDA-1B adopta un enfoque diferente: asigna distintos roles a los datos según su calidad.
Para aprender las políticas se recurre a demostraciones de expertos de gran calidad.
Los datos de menor calidad o “no validados” se utilizan para conocer la dinámica del mundo físico.
Un vídeo en el que se falla al intentar agarrar un objeto no se puede imitar directamente, pero le indica al modelo: “esta forma de agarrar fracasará”. Eso es conocimiento dinámico.
La idea parece sencilla, pero plantea un reto técnico:
¿Cómo se puede LDA-1B ¿Aprender al mismo tiempo “cómo será el siguiente fotograma” y “qué acción hay que realizar a continuación”?
LDA-1B y la predicción en el espacio latente de DINO
La solución del equipo consiste en trasladar las tareas de predicción al espacio latente de DINO.
DINO, un modelo visual de aprendizaje autosupervisado desarrollado por Meta, comprime las imágenes en representaciones de características muy abstractas. En este espacio, LDA-1B No tiene por qué preocuparse por detalles superficiales como “si la mesa es de madera o blanca”, sino que se centra en la información física esencial, como “dónde están los objetos” y “cómo se mueven”.”
Este diseño ofrece dos ventajas:
- Una eficiencia computacional mucho mayor, que evita la redundancia a nivel de píxel
- Una mayor generalización entre entornos, ya que LDA-1B aprende reglas físicas abstractas en lugar de características visuales específicas de cada escena
Dentro de un marco unificado de Transformer de difusión multimodal, el modelo elimina el ruido de los fragmentos de acción y de las secuencias DINO futuras de forma conjunta.
Los datos heterogéneos desempeñan funciones únicas y complementarias en los siguientes ámbitos:
- Predicción visual
- Aprendizaje dinámico
- Aprendizaje en materia de políticas
El equipo recopiló el conjunto de datos EI-30k, que contiene más de 30 000 horas de datos diversos sobre la interacción entre humanos y robots, y que abarca diferentes duraciones de eventos y tareas de manipulación.
Desde el punto de vista arquitectónico, LDA-1B utiliza un transformador de difusión multimodal. Esto le permite gestionar flujos asíncronos de imágenes y acciones. En el mundo real, las frecuencias de fotogramas de las cámaras y las frecuencias de control de los robots suelen estar desincronizadas, lo que supone un reto para los modelos tradicionales a la hora de procesarlas.
La introducción de modelos de difusión también permite LDA-1B para entrenar de forma estable a una escala de mil millones de parámetros, algo que antes resultaba difícil para los modelos robóticos.
Rendimiento del LDA-1B en tres categorías de tareas
Para la evaluación, el equipo seleccionó tres escenarios representativos:
Tareas con gran número de contactos en LDA-1B
Estas pruebas evalúan la percepción y el control de la fuerza por parte del robot —tareas como conectar un cable USB o apretar tornillos, en las que es esencial una retroalimentación precisa de la fuerza—.
LDA-1B supera al modelo π0,5 anterior en 21%.
Manipulación precisa con el LDA-1B
Y lo que es aún más complicado, estas tareas requieren un control coordinado de varios dedos, como girar un cubo de Rubik o utilizar herramientas.
Aquí, LDA-1B muestra una ventaja aún mayor, mejorando el rendimiento en un 48%.
Planificación a largo plazo en LDA-1B
Estas pruebas evalúan la capacidad de planificación. El robot debe completar una secuencia de subtareas para alcanzar un objetivo final.
LDA-1B logra una mejora de 23% en esta categoría.
Más interesantes son los experimentos de ajuste fino.
El equipo utilizó deliberadamente datos de “baja calidad”: casos fallidos y trayectorias incompletas que, en circunstancias normales, se habrían descartado.
El resultado: el uso de tan solo 30% de estos datos mejoró el rendimiento en 10%.
Este hallazgo echa por tierra una creencia muy extendida en el sector:
Los denominados “datos basura” no son una carga, sino que pueden constituir un activo oculto para LDA-1B.
LDA-1B y una nueva vía hacia los modelos mundiales
El enfoque técnico que subyace a LDA-1B responde a una pregunta más amplia: ¿cómo deberían aprender los modelos base de los robots?
Actualmente existen dos paradigmas dominantes:
Clonación del comportamiento
Ejemplos de ello son el trabajo en robótica de OpenAI y la serie π0 de Physical Intelligence. La idea es sencilla: observar a los expertos e imitarlos.
Modelos del mundo
Representado por obras como «Genie» y «DIAMOND». La idea es comprender primero cómo funciona el mundo físico y, a continuación, decidir cómo actuar.
La clonación de comportamientos adolece de una baja eficiencia en el uso de los datos, ya que solo aprende de los casos exitosos.
Los modelos globales se han enfrentado a dificultades debido a implementaciones rudimentarias: o bien se centran únicamente en la predicción de vídeo sin tener en cuenta las acciones, o bien se basan en conjuntos de datos demasiado pequeños para un entrenamiento a gran escala.
LDA-1B opta por una tercera vía.
Unifica el aprendizaje de dinámicas, el aprendizaje de políticas y la predicción visual en un único marco, lo que permite que los datos de diferente calidad desempeñen distintas funciones.
Esta idea —el «Modelo Mundial Unificado»— ya se había propuesto anteriormente a nivel teórico. Pero LDA-1B es el primero en implementarlo a una escala de mil millones de parámetros con un entrenamiento estable.
Desde el punto de vista de la ingeniería, la mayor contribución de LDA-1B No se trata de un único avance. Lo que demuestra es una cosa:
Los modelos base de robots pueden escalar al igual que los modelos de lenguaje, “consumiendo” cantidades ingentes de datos heterogéneos.
Los datos que antes se desperdiciaban pueden transformarse en conocimiento dentro de LDA-1B.
¿Es el LDA-1B la solución al «hambre de datos»?
La robótica se enfrenta desde hace tiempo a una realidad incómoda: los datos son caros.
Para grabar una hora de datos de demostración de robots de alta calidad se necesitan operadores cualificados, entornos estandarizados y sensores de gran precisión. El coste puede ascender a miles de dólares.
Incluso los laboratorios que cuentan con una buena financiación tienen dificultades para entrenar modelos con datos a la escala de los modelos de lenguaje.
LDA-1B ofrece una nueva orientación.
En lugar de invertir grandes cantidades de dinero en recopilar datos perfectos, aprovecha los datos imperfectos.
Vídeos de operaciones realizadas por personas subidos a YouTube, intentos fallidos de robots durante la depuración, conjuntos de datos recopilados en distintos laboratorios y plataformas… Estos recursos, que antes se pasaban por alto, ahora pueden convertirse en material de formación para LDA-1B.
Dicho esto, siguen existiendo algunas incertidumbres.
El artículo no revela en su totalidad la composición y la procedencia del conjunto de datos EI-30k, lo que supone un obstáculo para otros equipos que intenten reproducir LDA-1B a esta escala.
También está la cuestión de la implementación: un modelo con mil millones de parámetros conlleva un coste computacional considerable. Los robots, a diferencia de los servidores, no pueden simplemente aumentar su capacidad de cálculo.
Aun así, en este momento, LDA-1B establece un nuevo punto de referencia para los modelos base de robots:
- A mayor escala
- Datos más diversos
- Métodos más unificados
Ahora la pregunta es cómo responderá el resto de los participantes a LDA-1B.
