Gobernar con la IA… ¿o gobernar a la IA?
Ahora que se ha abierto el debate sobre los límites de la Inteligencia Artificial, desde el punto de vista gubernamental y de las administraciones públicas también sería bueno incluir en la discusión algunas preguntas que hasta hace poco parecían pertenecer a la ciencia ficción: ¿Cómo ha cambiado la Administración Pública cuando la IA comienza a participar en las decisiones, los servicios públicos y el trabajo burocrático? ¿Qué nuevas capacidades necesita el Estado para utilizarla? Y, quizá la pregunta más importante, ¿hasta dónde estamos dispuestos a permitir que una máquina participe en decisiones que antes correspondían exclusivamente a una persona?
La discusión no es futurista. La Inteligencia Artificial ya está dentro de las administraciones públicas. La OCDE ha documentado cientos de casos de uso en gobiernos de distintos países, relacionados con la prestación de servicios, la detección de irregularidades, el análisis de información, la recaudación fiscal y la toma de decisiones. Esto significa que el debate ya no consiste solamente en imaginar lo que la IA podría hacer en el gobierno, sino en entender qué está ocurriendo ahora que los algoritmos comienzan a formar parte de las estructuras y procesos con los que el Estado ejerce sus funciones.
Por ejemplo, en Brasil, la Contraloría General utiliza un sistema de inteligencia artificial conocido como “Alice” para analizar licitaciones y contratos públicos y detectar posibles irregularidades. El sistema puede revisar enormes cantidades de información y generar alertas para que los auditores concentren su atención en determinados procedimientos.
Algo parecido ocurre en las administraciones tributarias. La Inteligencia Artificial ya se utiliza para identificar patrones de posible evasión, seleccionar contribuyentes que pueden representar un mayor riesgo y mejorar la atención mediante asistentes virtuales. En este caso, la pregunta deja de ser solamente si una computadora puede hacer más rápido el trabajo de un funcionario.
Aquí es donde, me parece, comienza la verdadera discusión. Una cosa es utilizar Inteligencia Artificial para ordenar documentos, responder preguntas frecuentes o realizar tareas repetitivas. Otra muy distinta es emplearla para identificar a quién auditar, qué contratación pública presenta riesgos, qué trámite debe recibir atención prioritaria o qué información debe ser considerada para tomar una decisión administrativa. En esos casos ya no estamos hablando únicamente de tecnología. Estamos hablando del ejercicio del poder público y, por tanto, de responsabilidad, transparencia, derechos y límites al poder.
Durante mucho tiempo construimos la Administración Pública alrededor de personas. Funcionarios que interpretan normas, valoran información, toman decisiones y responden por ellas. La burocracia moderna buscó precisamente que esas decisiones no dependieran exclusivamente de la voluntad de una persona, sino de reglas, procedimientos e instituciones. Ahora aparece un nuevo actor en esa relación: el algoritmo. Y con él surgen preguntas que todavía no hemos terminado de responder. ¿Quién diseñó el sistema? ¿Con qué datos fue construido? ¿Qué criterios utiliza? ¿Puede equivocarse? ¿Puede reproducir sesgos? Y, sobre todo, ¿quién responde cuando una decisión apoyada por Inteligencia Artificial resulta equivocada?
Pero existe otra pregunta que quizá hemos discutido todavía menos: ¿qué tipo de servidor público necesita este nuevo escenario? Porque la incorporación de Inteligencia Artificial no necesariamente significa que en el futuro habrá menos funcionarios. Puede significar, por el contrario, que necesitaremos servidores públicos con nuevas capacidades: capaces de entender los datos, utilizar herramientas de IA, cuestionar sus resultados, detectar errores y, sobre todo, saber cuándo una decisión no puede delegarse en una máquina. El reto para el Estado no parece ser solamente adquirir tecnología, sino desarrollar las capacidades institucionales, jurídicas y profesionales para gobernarla.
La pregunta de fondo es qué está ocurriendo con el Estado cuando una tecnología comienza a intervenir en la manera en que se toman decisiones, se prestan servicios y se ejerce la función pública.
