IA con criterio: las decisiones que hay que tomar antes de poner un chatbot en el municipio

Imaginemos a una vecina que entra a la web de su municipio para hacer un trámite y la atiende un asistente virtual. Si el asistente no entiende su caso y no hay forma de hablar con una persona, el trámite queda trabado y la vecina siente que el Estado no la escucha. Esta nota parte de esa situación: cuando un municipio suma inteligencia artificial, lo que está en juego no es la tecnología, sino quién recibe una respuesta, quién queda afuera y quién corrige cuando algo sale mal.

Geyer, fundadora de The Human Lab Innovation y especialista en la relación entre personas e IA, dice que la IA no es neutral: sus objetivos, los datos con los que trabaja y sus reglas de uso son decisiones humanas. Por eso propone frenar antes de elegir la herramienta y responder primero algunas preguntas: qué problema merece atención, qué información hace falta, qué se espera que cambie en la vida de la gente y cómo puede intervenir un vecino cuando la respuesta es incorrecta. Recomienda el «diseño centrado en las personas», que quiere decir pensar el servicio junto con quienes lo usan y quienes lo prestan, y probar a pequeña escala antes de extenderlo.

• El problema puede ser otro: un municipio que quiere «mejorar la atención» con un chatbot de trámites quizás tiene en realidad otro problema: datos que no circulan entre áreas, falta de un sistema para priorizar casos o equipos sin capacitación. Un asistente no arregla eso solo.

• La ética hecha diseño: ofrecer canales alternativos a quien no usa lo digital, poder derivar siempre a una persona, explicar las respuestas y definir quién actúa ante un error.

• Cuidado con cómo se mide: si el éxito se mide solo por las consultas que el asistente responde sin intervención humana, puede parecer que funciona aunque deje gente atrapada en respuestas automáticas.

• Probar antes de crecer: armar un prototipo y acordar de antemano con qué evidencia se decide seguir, cambiar o frenar.

Para Geyer, la IA puede sumar valor a la gestión pública solo si antes se decide qué problema se quiere resolver y quién responde cuando algo falla. Por eso recomienda probar a pequeña escala y acordar de antemano con qué evidencia se sigue, se cambia o se frena. La pregunta de fondo no es qué herramienta comprar, sino qué tiene que mejorar en la vida de las personas.

Fuente. Publicado originalmente en CIDEU, "IA con criterio: las decisiones que diseñan nuestras ciudades", de Sofía Geyer, 16/10/2026. https://cideu.org/ia-con-criterio-las-decisiones-que-disenan-nuestras-ciudades/

Imagen: Oficina de Atención Ciudadana del distrito de Gràcia, Barcelona (sede de CIDEU). Foto: Fred Romero, CC BY 2.0, vía Wikimedia Commons.