El debate sobre qué modelo de IA elegir podría estar distrayéndonos de lo que realmente importa. Eso es, al menos, lo que se desprende de una reciente entrevista a Jeff Dean, exdirector científico de Google y una de las figuras más influyentes en el desarrollo de la inteligencia artificial a escala global. Dean participó en una charla organizada por Y Combinator, la famosa aceleradora de startups de Silicon Valley, donde explicó por qué el foco debería estar en el context engineering y no tanto en el modelo que se usa.
El modelo de IA que usas cada vez importa menos
Según Dean, el modelo de IA es solo una pieza más dentro de un sistema más amplio. La entrevistadora, Diana Hu, planteó que el progreso en IA ya no depende únicamente de entrenar modelos más grandes con más datos y más parámetros. De acuerdo con su planteamiento, lo que está ganando peso es todo lo que rodea al modelo: recuperación de información, herramientas, memoria y agentes. Y propuso que todo eso se puede agrupar bajo el concepto de context engineering.
Dean estuvo de acuerdo con esa visión y la amplió. Según sus palabras, lo que marca la diferencia es equipar al modelo con las herramientas adecuadas para resolver el problema en cuestión, y darle acceso a la información relevante en cada momento. En lugar de poner el foco en el modelo y esperar que lo haga todo, propone construir el sistema que lo rodea de forma inteligente.
Qué es exactamente el context engineering
El context engineering no es un concepto nuevo, pero está ganando protagonismo a medida que los modelos de IA se integran en sistemas más complejos. De acuerdo con la fuente, la idea central es que la información que el modelo recibe directamente para un problema concreto es mucho más útil que el conocimiento general con el que fue entrenado. Dean lo explicó con una metáfora bastante gráfica: los datos de entrenamiento son como billones de tokens mezclados en una sopa, mientras que el contexto directo para un caso específico es mucho más claro y manejable para el modelo.
Dicho de otro modo, un modelo bien contextualizado puede rendir mucho mejor que uno más potente pero mal orientado. Esta distinción tiene implicaciones prácticas muy importantes para cualquiera que trabaje con herramientas de IA en su día a día, ya sea en marketing, desarrollo de producto o cualquier otro ámbito.
La orquestación de agentes múltiples, la próxima gran frontera
Más allá del context engineering, Dean también puso el foco en otro concepto que, según él, va a cobrar cada vez más relevancia: la orquestación de sistemas multiagente. Esto implica coordinar varios agentes de IA para que trabajen juntos, usen herramientas, recuperen información y resuelvan problemas complejos de forma secuencial o paralela.
Según explicó, la clave está en que el sistema sea capaz de descomponer un problema en pasos, decidir qué herramientas usar en cada fase, probar diferentes enfoques y evaluar cuál funciona mejor. De acuerdo con Dean, esto es lo que define los sistemas de IA más capaces hoy en día, y lo que marcará la diferencia en los próximos años. Lo calificó, literalmente, como una época apasionante.
Consejos prácticos para mejorar en context engineering
Una de las partes más interesantes de la entrevista llegó cuando Diana Hu le pidió a Dean consejos concretos para que cualquier persona pueda mejorar en context engineering. La propia entrevistadora señaló algo relevante: a diferencia de entrenar un modelo desde cero (algo que requiere recursos ingentes, acceso a GPUs y enormes cantidades de datos), trabajar en context engineering es algo que cualquiera puede hacer con acceso a una API como la de Gemini.
La respuesta de Dean giró en torno a aprender de los fallos. Según él, la mejor forma de mejorar es usar los modelos en problemas reales, observar dónde fallan y entender qué cambios habría que hacer. Y aquí viene el punto clave: no siempre la solución es ajustar los parámetros del modelo (algo que además es difícil de hacer desde fuera), sino mejorar las instrucciones, las guías y las habilidades que se le proporcionan para que sepa cómo usar las herramientas disponibles.
De acuerdo con Dean, este proceso genera un ciclo de mejora continua: a medida que se afinan las instrucciones y las herramientas, el sistema se vuelve más capaz, lo que a su vez permite identificar qué información adicional necesitaría para rendir aún mejor. Un bucle que, bien gestionado, puede llevar a resultados notablemente superiores sin tocar el modelo en absoluto.
Qué se puede aplicar de todo esto en el día a día
Aunque la entrevista estuvo orientada a un público técnico y fundadores de startups, las ideas de Dean tienen aplicación directa para perfiles muy diversos. Según se desprende de sus declaraciones, cualquier profesional que use IA puede mejorar sus resultados sin cambiar de modelo, simplemente trabajando mejor el contexto que le proporciona. Esto incluye:
- Definir con más precisión las instrucciones y el rol que debe asumir el modelo.
- Conectar el modelo con herramientas externas relevantes para cada tarea.
- Incorporar sistemas de recuperación de información (retrieval) que alimenten el contexto con datos actualizados.
- Observar dónde falla el modelo y crear guías específicas para esas situaciones.
- Descomponer problemas complejos en pasos más pequeños y manejables.
Según los datos facilitados por la fuente, este enfoque es más accesible que nunca porque no requiere grandes inversiones en infraestructura. Basta con tener acceso a la API de un modelo y tiempo para experimentar y aprender de los resultados.
El peso de quien lo dice
Conviene recordar quién es Jeff Dean para entender por qué sus palabras generan tanto interés. De acuerdo con su trayectoria pública, Dean fue durante años el responsable máximo de la división de IA de Google, conocida como Google Brain, y es considerado uno de los arquitectos del salto que dio la compañía hacia la inteligencia artificial moderna. Su nombre aparece vinculado a proyectos fundamentales como TensorFlow y a los sistemas que hoy sustentan la búsqueda de Google y otros productos del gigante tecnológico.
Que alguien con ese perfil dedique una entrevista a explicar que el foco debería estar en el sistema y no en el modelo es, como mínimo, una señal de por dónde van a ir los tiros en los próximos meses. La carrera por tener el modelo más potente sigue, pero parece que la ventaja competitiva real cada vez se juega más en otro terreno.
Fuente: https://www.searchenginejournal.com/googles-ex-ai-chief-jeff-dean-explains-how-to-improve-context-engineering/584955/