Agentes de IA y sistemas LLM
Un agente de IA o sistema LLM es software que lee tus documentos y responde preguntas sobre ellos, de modo que la lectura y la clasificación que tu equipo hace a mano se convierten en una cola que revisa. Vale lo que cuesta cuando el trabajo es de alto volumen, repetitivo y hecho de texto: expedientes, contratos, tiquetes, correos y las preguntas que el personal le hace al mismo jefe todos los días.
Dónde encaja
El trabajo tiene que valer la pena automatizarlo. Un proceso que corre dos veces al año es mal candidato por tedioso que sea. Los que se pagan son los que corren a diario, implican leer algo y terminan en una decisión que una persona toma igual cada vez.
Aparecen tres formas con más frecuencia. La extracción de documentos convierte una pila de archivos sin estructura en registros que puedes consultar, que es lo que hace posible reportar. La recuperación y respuesta de preguntas pone un asistente delante de un cuerpo de conocimiento para que la gente deje de interrumpir a quien lo tiene. El ruteo y la clasificación ordenan lo que llega, resuelven los casos de rutina y escalan el resto.
Qué hace que funcionen
La precisión es un número, no un adjetivo, y hay que acordarla antes de construir. En un proceso de extracción el criterio de aceptación era de 75% o mejor, y una ventana de validación de dos semanas dio 80% o mejor. Por separado, 1.664 expedientes pasaron por clasificación y extracción con una tasa de éxito de 98,8%. Esas cifras solo significan algo porque el umbral existía primero.
La trazabilidad es el segundo requisito. Cada respuesta apunta al documento del que salió. Eso es lo que vuelve revisable el resultado, y la revisión es lo que vuelve seguro apoyarse en el sistema.
La tecnología es un detalle de soporte
Estos sistemas se construyen con Python, orquestación autoalojada, recuperación sobre un almacén vectorial y el modelo de lenguaje que le quede a cada paso. Cuál modelo es una decisión de diseño que se revisa, no un argumento de venta. Lo que importa es el umbral de precisión, la trazabilidad y si la cosa quita trabajo.
El problema
Tu equipo lee, clasifica y responde los mismos documentos y preguntas todos los días, y el volumen crece más rápido que la gente que puedes contratar.
El resultado
Un sistema que lee los documentos, responde las preguntas y deriva lo que necesita una persona, con cada respuesta rastreable hasta la fuente de donde salió.
Lo que recibes
- Una capa de recuperación sobre tus documentos, para que cada respuesta cite la fuente de donde salió
- Procesos de extracción que convierten expedientes, contratos y formularios en registros estructurados que puedes consultar
- Asistentes que responden preguntas de tu equipo o de tus clientes en Slack, WhatsApp o el canal que tu equipo ya tiene abierto
- Un banco de evaluación que mide la precisión contra un umbral de aceptación acordado antes de empezar a construir
- Ruteo de modelos, para que cada paso corra en el modelo que le queda y no en el más caro
- Una cola de revisión humana para los casos que el sistema no debería decidir solo
Cómo trabajamos
Fijar el umbral de aceptación
Construir recuperación y extracción
Medir contra el umbral
Publicar con una persona en el circuito
Trabajo relacionado
ocho
asistentes especializados, todos desde una sola conversación de Slack
Ocho asistentes de IA que una agencia usa desde Slack
Crescendo Creative
unos $77M
de gasto en publicidad política de TV rastreado y atribuido
De expedientes de la FCC a unos $77M de gasto publicitario rastreado
una consultora política estadounidense
un estimado del 75%
menos interrupciones a gerentes, según el estimado del propio cliente
Un estimado del 75% menos de interrupciones a gerentes en 5 sedes
Padrino's Cuban Cuisine
menos de 2 minutos
para armar el reporte semanal de prospectos, antes 5 horas
De 5 horas a menos de 2 minutos: el reporte de una firma legal
una firma estadounidense de servicios legales
Preguntas sobre este servicio
¿Qué tan precisos son estos sistemas en la práctica?
Lo bastante precisos como para medirlos contra un número que fijas de antemano, que es la parte que importa. En un proceso de extracción de documentos que construimos, el criterio de aceptación acordado antes de empezar era de 75% o mejor, y una ventana de validación de dos semanas dio 80% o mejor. Por separado, 1.664 expedientes pasaron por clasificación y extracción con una tasa de éxito de 98,8%. Tus documentos van a producir números distintos, así que primero fijamos el umbral contigo y reportamos contra él.
¿Qué evita que se invente cosas?
La recuperación y la trazabilidad, no una promesa. Las respuestas se generan a partir de documentos que el sistema recuperó, y cada una lleva un enlace de vuelta a la fuente que usó, así que una respuesta equivocada es algo que puedes encontrar y corregir, y no algo que descubres después. Donde equivocarse sale caro, el sistema deriva a una persona en vez de responder.
¿Tenemos que mover nuestros datos a otro lado?
Normalmente no. Estos sistemas leen desde donde ya viven tus documentos y escriben los resultados estructurados de vuelta en un almacén que tú controlas. Cuando un almacén nuevo sí es lo correcto, te lo decimos y te explicamos qué te da.
¿Qué modelo usan?
El que le quede al paso, y eso cambia con el tiempo. Clasificar, extraer y conversar tienen perfiles de precisión y costo distintos, así que rutear cada paso al modelo apropiado es parte del diseño y no una decisión de proveedor. El sistema se construye para que un modelo se pueda cambiar sin reescribirlo.
¿No sabes cuál de estos necesitas?
Ese es el punto de partida habitual, y para eso sirve el diagnóstico. Cuéntanos cuál proceso te está costando más tiempo y te decimos si vale la pena automatizarlo.