Imaginemos que una IA encuentra una manera de reducir las esperas para conseguir un turno. Revisa horarios, detecta huecos y propone una distribución mejor. En una prueba controlada, funciona.
Después llega el momento de usarla. Los sistemas no se hablan entre sí. Hay contratos, reglas distintas entre equipos y una pregunta bastante razonable: si a alguien le asignan mal el turno, ¿quién responde?
El ejemplo es hipotético, pero la tensión es real. La herramienta puede avanzar más rápido que la organización que debería aprovecharla. Y eso me interesa más que la típica discusión sobre si la IA «ya es mejor que nosotros».
Mejor en una tarea no significa mejor para decidirlo todo
Una IA puede clasificar documentos, encontrar errores o proponer una agenda con más rapidez que un equipo. Pero un hospital no existe solo para llenar turnos. También tiene que atender urgencias, cuidar a quienes encuentran barreras para acceder y explicar sus prioridades.
Lo mismo pasa en una empresa, una universidad o un organismo público. Hay objetivos que no entran en una única métrica. A veces una demora es una falla que conviene eliminar. Otras veces es el espacio necesario para escuchar una objeción, revisar un caso excepcional o evitar un daño.
Por eso no compraría ni la idea de que toda revisión humana es burocracia ni la de que cada procedimiento actual merece conservarse. Hay que distinguir.
La capacidad llegó antes que los cambios de fondo
Un modelo puede mejorar en meses. Migrar un sistema viejo, capacitar a un equipo, renegociar un contrato o acordar quién responde por una decisión puede llevar años.
No es solo una impresión mía. En un informe sobre IA en gobiernos, la OCDE analizó 200 casos de uso y señaló obstáculos como sistemas heredados, dificultades para compartir datos, falta de habilidades, presupuestos ajustados y exigencias legítimas de privacidad y transparencia.
La salida fácil sería poner un agente a copiar información entre pantallas y festejar que ahora completamos el mismo trámite más rápido. Quizá sirva como parche. Pero también nos puede distraer de una pregunta incómoda: ¿por qué seguimos cargando esos datos tres veces?
Si la IA hace visible que un proceso está roto, automatizarlo tal cual está no siempre es progreso.
Una firma humana no alcanza
Supongamos que un sistema genera cien recomendaciones por día. Sobre el papel, una persona conserva la última palabra. En la práctica, tiene segundos para revisar cada una y casi ninguna posibilidad de reconstruir cómo se llegó a esa conclusión. Termina apretando «aprobar».
Eso se parece más a prestar una firma que a ejercer criterio.
El marco de gestión de riesgos de IA del NIST propone definir roles, responsabilidades y formas concretas de supervisión entre personas y sistemas. Tiene sentido: decir «hay un humano en el circuito» no explica si esa persona dispone de tiempo, información y autoridad para decir que no.
Y cuanto más importante es la decisión, menos alcanza con decir que el modelo acierta la mayoría de las veces. Si alguien queda fuera de una ayuda, una oportunidad o una atención, necesita poder preguntar por qué, corregir un dato y pedir una revisión. Una buena tasa de aciertos no reemplaza esa posibilidad.
Ir lento también puede costar
No quiero que esto suene a argumento para esperar indefinidamente. Si una herramienta ayuda a detectar errores que hoy pasan inadvertidos o permite atender mejor a personas que hoy esperan demasiado, no probarla también tiene consecuencias. Solo que esas consecuencias suelen ser menos visibles: horas perdidas, mala atención, profesionales agotados.
Creo que hay tres situaciones que solemos mezclar. A veces la organización es lenta y la herramienta ya es útil. A veces la organización es prudente porque la herramienta todavía falla fuera de una demostración. Y a veces la herramienta muestra una ventaja clara en una tarea, pero todavía no sabemos cómo explicar sus decisiones o asignar responsabilidad cuando se equivoca.
Cada caso pide una respuesta distinta. Llamar «miedo al cambio» a toda cautela es tan pobre como usar «todavía no estamos listos» para no revisar nada.
No se trata de correr a la velocidad del modelo
Si tuviera que incorporar IA en un proceso importante, empezaría por algo acotado: detectar turnos duplicados, señalar expedientes incompletos o proponer alternativas. Compararía el resultado con el trabajo actual, incluidos los casos difíciles. Preguntaría quién gana, quién puede quedar peor y qué ocurre cuando el sistema falla.
Después daría autonomía de a poco, con acciones reversibles y responsables identificables. Tiene que haber una forma de reconstruir una decisión, cuestionarla y detener el sistema. No porque la IA sea inútil, sino porque una capacidad valiosa merece una institución capaz de usarla sin esconder sus errores.
La pregunta, para mí, no es si vamos a lograr que una organización corra tan rápido como una máquina. Es si vamos a saber dónde aprovechar esa velocidad y dónde necesitamos tiempo para decidir bien.
En este video pienso en voz alta sobre esa diferencia. ¿Ya viste un caso en el que la herramienta parecía estar lista, pero la organización no? Me interesa conocerlo.