En octubre de 2023, más de una cuarta parte de las solicitudes al enrutador de modelos de IA de Vercel correspondieron a Modelos de decisión, y no a los LLM tradicionales. Este es un avance significativo para una tecnología que surgió apenas un mes antes. Los modelos de decisión son, en esencia, LLM especializados que no generan tokens de texto, sino que eligen rápida y económicamente entre opciones predefinidas, evaluando al mismo tiempo su nivel de confianza en la elección. Su valor es especialmente alto en entornos de producción, donde la velocidad de decisión a menudo es más importante que la justificación detallada que ofrecen los modelos “fronterizos” más lentos y costosos.
El fenómeno Jev: líder del mercado y nuevos jugadores
Dominio del mercado y crecimiento rápido
La empresa TypeSafe ha alcanzado una capitalización de 7.500 millones de dólares gracias a su línea de modelos Jev, que continúan dominando el mercado. Solo en la última semana, el servicio OpenRouter procesó más de 1.500 millones de solicitudes a los modelos de TypeSafe.
Sin embargo, la simplicidad de crear tales modelos llevó a la aparición de docenas de análogos poco después del lanzamiento de Jev. Uno de los ingenieros de Amazon desarrolló su propio modelo durante el fin de semana, y pronto cada gran proveedor de servicios en la nube ofreció su solución.
Entrada de gigantes: Microsoft Decision-1.1
Recientemente, el CEO de Microsoft, Satya Nadella, anunció el lanzamiento inmediato de su propio modelo de decisión, Microsoft-Decision-1.1, para uso generalizado en la plataforma Azure. Esto subraya la importancia estratégica de esta dirección para los gigantes tecnológicos.
Innovaciones de startups: Sqwish y el enfoque de datos
Atracción de inversiones y propuesta única
La startup británica Sqwish, desarrolladora del modelo de decisión kettei fat, anunció la captación de 3 millones de dólares en una ronda pre-semilla. Los cofundadores Ushnish Sengupta y Federica Freddy, quienes se conocieron mientras estudiaban en Cambridge, inicialmente desarrollaron pequeños LLM, pero con la aparición de Jev, se dieron cuenta del potencial de sus arquitecturas para crear potentes modelos de decisión.
El papel de los datos y la personalización
La clave del éxito en esta categoría de modelos son los datos. Diogo Almeida, CEO de TypeSafe, dijo a TechCrunch que la parte más difícil de crear Jev fue la calibración fina de sus juicios utilizando datos sintéticos estadísticamente ajustados.
Sqwish también trabaja con datos sintéticos, pero su oferta única son las herramientas de post-entrenamiento integradas que permiten a los clientes usar sus propios datos para mejorar la precisión del modelo.
«Nos diferenciamos de la competencia al brindar a nuestros clientes el mismo poder… pueden continuar cargando sus datos de producción, y al igual que entrenamos nuestros modelos, sus modelos también pueden mejorar continuamente en las tareas que son importantes para ellos», señaló Ushnish Sengupta, CEO de Sqwish, en una entrevista con TechCrunch.
Selección y evaluación de modelos: lo que realmente importa
La ventaja de los casos reales sobre los benchmarks
Evaluar modelos de toma de decisiones no es una tarea fácil. El modelo kettei fat de Sqwish mostró buenos resultados en algunas pruebas, pero la mayoría de los desarrolladores coinciden en que la efectividad real solo se manifiesta en la práctica.
Los desarrolladores pueden reemplazar fácilmente un modelo por otro para evaluar su rendimiento en un contexto específico.

«Un benchmark es más una invitación a probar el modelo, y el ajuste fino constante es la razón por la que deberían quedarse con nosotros», afirma Sengupta.
El modelo Microsoft Decision 1.1 también es el resultado de un cuidadoso equilibrio entre costo, latencia, inteligencia y calibración. Achint Srivastava, vicepresidente de ingeniería que dirigió el proyecto, está de acuerdo en que una atención excesiva a los benchmarks es un error.
«Vemos que los modelos ‘máximamente probados’ fallan muy rápidamente en el uso corporativo real», escribió Srivastava en un correo electrónico. «Nuestras pruebas resaltan lo difícil que es garantizar precisión, confiabilidad, velocidad y rentabilidad en un solo modelo. Microsoft-Decision-1.1 y Jev son algunos de los pocos que demuestran altos resultados en los cuatro parámetros, incluso cuando se evalúan en benchmarks ‘diferidos’ o nunca antes vistos que reflejan escenarios de uso reales».
El futuro de los modelos de decisión: simbiosis con LLM
Para startups como Sqwish, la competencia con los gigantes abre nuevas oportunidades. Freddy predice que en el futuro los sistemas combinarán la «inteligencia del Sistema Uno» (modelos de decisión) con la «inteligencia del Sistema Dos» (LLM de frontera). Esto permitirá crear soluciones de IA más eficientes y multifuncionales. Obtenga más información sobre la promoción de contenido de video.
Preguntas frecuentes
¿Qué son los modelos de toma de decisiones?
Son modelos de IA especializados, basados en la arquitectura LLM, pero optimizados para elegir de forma rápida y económica entre las opciones dadas en lugar de generar texto. También evalúan su confianza en la decisión tomada.
¿En qué se diferencian de los LLM tradicionales?
La principal diferencia radica en su propósito: los LLM generan contenido, mientras que los modelos de toma de decisiones eligen la opción óptima. Los primeros son más lentos y requieren más recursos, mientras que los segundos son rápidos y eficientes para tareas específicas.
¿Cuál es el papel de la personalización en estos modelos?
La personalización, es decir, la capacidad de entrenar modelos con los datos propios del cliente, se convierte en un factor clave para el éxito. Esto permite aumentar significativamente la precisión y la relevancia de las decisiones en contextos empresariales específicos.
Conclusión
Los modelos de toma de decisiones están cambiando rápidamente el panorama de la IA, ofreciendo a las empresas una velocidad y eficiencia sin precedentes en la automatización de operaciones críticas. Si busca optimizar sus procesos y reducir el «dolor de cabeza» de las decisiones rutinarias, estas tecnologías merecen una atención especial.
Ofrecemos promoción integral a través de videos cortos, incluida la creación de contenido y su adaptación para diversas plataformas, para que pueda concentrarse en tareas estratégicas. Contáctenos para saber cómo podemos ayudarle a integrar soluciones avanzadas de IA en su estrategia de video marketing y encargar todo en un solo lugar, ahorrando presupuesto y preocupaciones.
