La promesa y el peligro: Una reflexión sobre la interacción de la Inteligencia Artificial en la contratación pública a cuenta de nuestra coincidencia en el III Congreso de Contratación Pública de Valencia, hacia una contratación pública ágil y sencilla, celebrado los pasados días 26 y 27 de Septiembre.

Escuchar este artículo ahora Getting your Trinity Audio player ready...

Por Víctor Almonacid Lamelas, Pilar Batet Jiménez y Juan Carlos García Melián.

Planteamiento

La Intersección de la IA y la Contratación Pública

En el umbral de una nueva era tecnológica, nos encontramos contemplando la intersección entre la inteligencia artificial (IA) y uno de los pilares fundamentales de la gobernanza moderna: la contratación pública. Esta confluencia promete una revolución en la forma en que los gobiernos adquieren bienes y servicios, ofreciendo la posibilidad de una eficiencia sin precedentes, una transparencia cristalina y una objetividad inmaculada. Eso sobre el papel. Como ocurre con toda innovación transformadora, conviene abordar esta fusión con una mezcla de entusiasmo cauto y escepticismo crítico.

Evolución de la Contratación Pública

La contratación pública –intrincado baile de regulaciones, expectativas, necesidades y propósitos estratégicos–, ha sido durante mucho tiempo un campo fértil para la innovación administrativa. Desde los primeros días de la burocracia ‘weberiana’ hasta la era actual de gobierno electrónico, hemos buscado constantemente formas de mejorar la equidad, la eficiencia y la efectividad de cómo se gasta el dinero de los ciudadanos. La introducción de la IA en este ámbito representa el siguiente paso lógico en esta evolución, pero también plantea preguntas fundamentales sobre la naturaleza de la toma de decisiones en el sector público.

Participación de Asistentes Virtuales

En breve, asistentes virtuales basados en IA participarán activamente en cada etapa del proceso de contratación. Desde la preparación del contrato, la redacción de los documentos, la licitación, la evaluación de la solvencia de los licitadores, el análisis minucioso de las ofertas presentadas, la adjudicación, hasta su ejecución, estos sistemas prometen procesar vastas cantidades de información a velocidades que son impensables siquiera para los más eficientes equipos humanos. La visión es seductora: decisiones libres de prejuicios humanos, basadas puramente en datos y algoritmos, optimizando cada céntimo del gasto público¹En Estados Unidos, la Administración General de Servicios GSA utiliza la herramienta CALI, que es una herramienta de evaluación automatizada de aprendizaje automático diseñada para optimizar la evaluación de las propuestas de los proveedores en relación con los requisitos de la licitación para respaldar el proceso de selección de fuentes. Una vez que el oficial de contratación (CO) ha recibido las propuestas de los proveedores para una licitación y está listo para realizar el proceso … Continuar leyendo.

Complejidades y Riesgos de la IA

Sin embargo, a medida que nos adentramos en esta visión, las complejidades y los riesgos comienzan a emerger sombríamente. La evaluación de la solvencia de un licitador, por ejemplo, no es simplemente una cuestión de números en una hoja de cálculo. Implica una comprensión matizada del contexto empresarial, las tendencias del mercado y, a veces, factores intangibles que pueden ser cruciales para el éxito de un proyecto.

Capacidad de la IA para Evaluar Licitadores

¿Puede un sistema de IA, por muy avanzado que sea, captar realmente la esencia de la capacidad necesaria de una empresa para cumplir con un contrato complejo? Si vamos más allá, comprenderemos también que la irrupción de la IA impulsará modificaciones legislativas que aproveche la reducción irremediable de las asimetrías de información. Los sistemas de IA pueden tener una visión 360 de la realidad y los antecedentes de una empresa, de tal manera que en los criterios de selección de los contratistas podrán considerarse otras cuestiones como la capacidad real de una empresa para hacer frente al contrato que se licita conociendo los contratos públicos que en cada momento ejecuta y la evaluación obtenida en esos contratos que ejecuta y ha ejecutado.

Evaluación de Ofertas: Un Terreno Pantanoso

Más aún, cuando pasamos a la evaluación de las ofertas, nos adentramos en un terreno realmente pantanoso. Los criterios de adjudicación a menudo incluyen elementos que requieren juicios de valor: la calidad de una propuesta técnica, el potencial innovador de una solución, o el impacto social de un proyecto. Estos son aspectos que desafían la cuantificación fácil y que, hasta ahora, han requerido del conocimiento y la experiencia y el conocimiento de las personas. La introducción de la IA en este proceso plantea preguntas fundamentales sobre la naturaleza del juicio y la toma de decisiones en el ámbito público.

Juicios de Valor en Proyectos de Renovación Urbana

Consideremos, por ejemplo, un proyecto de renovación urbana. Un sistema de IA podría, sin duda, analizar eficientemente aspectos cuantitativos como costos, plazos y especificaciones técnicas. Pero ¿cómo evaluaría la calidad estética de los diseños propuestos? ¿Cómo ponderaría el impacto potencial en la cohesión social de la comunidad? Estos son juicios que, hasta ahora, han requerido una comprensión profunda del contexto local, una apreciación de las dinámicas sociales y, a menudo, un cierto grado de intuición informada.

Implicaciones Éticas y Legales

Además, debemos considerar las implicaciones éticas y legales de abandonar siquiera parcialmente decisiones que involucren gasto público a la IA²En este punto permíteme que recomiende la lectura de este artículo: Mazrekaj, Deni and Titl, Vítězslav and Schiltz, Fritz, Identifying Politically Connected Firms: A Machine Learning Approach (June 4, 2021). Disponible en este enlace o en este otro. Describe perfectamente el proceso para el uso de algoritmos de aprendizaje automático para mejorar la identificación de empresas políticamente conectadas con conflictos de interés. Sobre este asunto también es relevante el trabajo de … Continuar leyendo. La contratación pública se rige por principios fundamentales de transparencia, igualdad de trato y proporcionalidad. La introducción de sistemas de IA complejos, a menudo descritos como “cajas negras” debido a la opacidad de sus procesos de toma de decisiones, plantea serios desafíos a estos principios.

Transparencia y Conflictos de Interés

¿Cómo garantizamos la transparencia cuando incluso los creadores de estos sistemas pueden tener dificultades para explicar exactamente cómo se llegó a una decisión particular?³Se habla incluso de conflictos de interés de la IA. Los sistemas de inteligencia artificial pueden detectar preferencias sutiles. Si la función de optimización de las recomendaciones tiene en cuenta el interés del usuario, el interés del titular del sistema y además del interés del cliente, esto puede dar lugar a conflictos de intereses. Vid. video

Sesgo en los Sistemas de IA

El riesgo de perpetuar o incluso amplificar sesgos existentes es otra preocupación crítica. Los sistemas de IA aprenden de los datos históricos, y si estos datos reflejan prejuicios pasados o prácticas discriminatorias, existe el peligro real de que estos sesgos se codifiquen en los algoritmos, llevando a una discriminación sistemática y algorítmica. Esto es particularmente preocupante en el contexto de la contratación pública, donde uno de los objetivos clave es fomentar la diversidad y la inclusión en el gasto público⁴En el Reino Unido, el Gobierno Digital Service está explorando el uso de IA para identificar sesgos (bias) en los procesos de contratación pública. Más información.. Y en este punto nos podemos asomar al abismo ¿Podría un sistema de IA incurrir en conflicto de interés? ¿Cómo se asegura el que el sistema no esté aprovechando su posición “privilegiada” en los procedimientos de licitación para beneficiarse a sí mismo o a terceros vinculados de forma directa o indirecta…

Potencial de la IA en la Contratación Pública

Sin embargo, a pesar de estos desafíos y riesgos, sería miope descartar por completo el potencial de la IA en la contratación pública. En ciertas áreas, especialmente en tareas repetitivas y basadas en reglas, la IA ya está demostrando su valor. La verificación automatizada de documentación, la detección de anomalías en las ofertas, o el análisis de patrones de gasto para identificar oportunidades de ahorro son ejemplos de áreas donde la IA puede complementar eficazmente el juicio humano⁵La plataforma Mercado Público de Chile utiliza IA para clasificar automáticamente los productos y servicios ofertados, facilitando la búsqueda y comparación de ofertas..

Hacia un Enfoque Híbrido

El camino hacia adelante, por lo tanto, no es una elección binaria entre adopción entusiasta o rechazo categórico de la IA en la contratación pública. En su lugar, debemos buscar un equilibrio cuidadoso, un enfoque híbrido que aproveche las fortalezas tanto de la IA como del juicio humano. Esto requiere una comprensión matizada de las capacidades y limitaciones de la tecnología actual, así como una consideración cuidadosa de dónde y cómo la IA puede agregar valor sin comprometer los principios fundamentales de la gobernanza pública. Sospechamos que en la mayor parte de los casos pensar en el uso de la IA puede resultar ser un fin en sí mismo y que para la solución de gran parte de los problemas que ahora apreciamos en la contratación pública relacionados con su complejidad y falta de agilidad pueden encauzarse sin necesidad de utilizar la bala de plata que para la administración es la IA

Un Marco Ético Robusto

A medida que avanzamos, es crucial que el desarrollo y la implementación de sistemas de IA en la contratación pública se guíen por un marco ético robusto. Esto implica no solo consideraciones técnicas, sino también un diálogo continuo con todas las partes interesadas: funcionarios públicos, proveedores, expertos en ética y la sociedad civil en general. La transparencia en el diseño y uso de estos sistemas, la capacidad de auditar y explicar las decisiones, y la existencia de mecanismos de supervisión y apelación humana deben ser componentes no negociables de cualquier sistema de IA en la contratación pública⁶Desde esta perspectiva, en el nuevo Reglamento europeo de IA, se han considerado como referencia las Directrices Éticas para una IA confiable que en 2019 presentó la Comisión Europea y la Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital. El Reglamento europeo de Inteligencia Artificial forma parte del paquete de medidas políticas para apoyar el desarrollo de una IA fiable de la que forman parte el Paquete de Innovación en IA y el Plan Coordinado … Continuar leyendo.

Desafíos de Gobernanza

Además, debemos reconocer que la introducción de la IA en este ámbito no es simplemente un desafío tecnológico, sino también un desafío de gobernanza. Requiere una reconsideración de los marcos legales y regulatorios existentes, así como el desarrollo de nuevas competencias dentro del sector público. Los funcionarios encargados de la contratación necesitarán no solo “expertise”⁷habilidad o conocimiento especial, pericia. en adquisiciones y derecho administrativo, sino también una comprensión básica de la ciencia de datos y la ética de la IA⁸Singapur ha implementado el programa “AI Apprenticeship Programme” para formar a funcionarios públicos en IA y ciencia de datos, incluyendo aplicaciones en contratación pública..

Un Viaje, No un Destino

En última instancia, la integración de la IA en la contratación pública es un viaje, no un destino. Es un proceso que requerirá experimentación cuidadosa, aprendizaje continuo y, sobre todo, un compromiso inquebrantable con los valores fundamentales de la gobernanza democrática. A medida que avanzamos en este camino, debemos mantener un equilibrio delicado entre la innovación y la precaución, entre la eficiencia y la equidad, entre la automatización y el juicio humano.

La promesa de la IA en la contratación pública es real y emocionante. Imaginar un futuro donde las decisiones de gasto público se tomen con una precisión y eficiencia sin precedentes distorsionadores es verdaderamente inspirador. Sin embargo, también debemos ser conscientes de los peligros potenciales y abordar este futuro con los ojos bien abiertos. Solo a través de una reflexión crítica continua, un diálogo abierto y un compromiso inquebrantable con los principios éticos podremos navegar con éxito la compleja intersección entre la inteligencia artificial y la contratación pública.

IA y contratación pública: un noviazgo que acabará en matrimonio

Cuando hablamos de contratación pública, al fin y al cabo estamos hablando de procedimiento. Pero se trata de un procedimiento muy especial, por ser el más destacado dentro de un ayuntamiento teniendo en cuenta simultáneamente los aspectos cuantitativo y cualitativo; un procedimiento que, de gestionarse correctamente, puede marcar la diferencia global entre una buena y una mala gestión. Tan importante es. Por eso resulta fundamental incorporar adecuadamente la IA en los distintos trámites, procedimientos, políticas e incluso estrategias relacionadas con la contratación de la entidad local.

Este es un procedimiento que soporta muy bien la introducción de las nuevas tecnologías, pues de hecho llevamos incorporándolas desde hace años, teniendo además la adecuada cobertura legal desde 2014 (con la citada Directiva, rematada en 2017 con la LCSP), y siendo especialmente compatible con cualquier medida que mejore el cumplimiento de los principios de concurrencia (declaraciones responsables, registros de licitadores, obligación de trámites electrónicos para los licitadores, con el consiguiente ahorro) e integridad (encriptación de ofertas, subastas electrónicas, Blockchain, etc.).

En cuanto a la citada relación “sentimental” que reza el epígrafe, entendemos que gira en torno a cuatro ideas fuerza que reflejan de forma clara la estrecha relación entre IA y contratación pública. Se trata pues de una relación que se manifiesta en cuatro niveles:

1. Incorporación de los sistemas de IA al procedimiento de contratación, especialmente a la fase de licitación. Este aspecto se puede hacer extensivo a la fase de preparación (donde la IA generativa podría ayudar con la elaboración de los pliegos), ejecución (donde la gestión de los datos es fundamental), y extinción, con lo cual impactaría sobre toda la vida del contrato.
2. Fomento de las políticas públicas de innovación mediante la actividad contractual pública, fundamentalmente a través de la modalidad de compra pública de innovación (CPI) y, aunque no se trata exactamente de un contrato, de los ya estudiados entornos de prueba (sandbox).
3. Contratos de concesión de servicios. Incorporación de la tecnología a las infraestructuras que soportan los servicios, imponiéndolo al contratista desde el pliego. Utilización de dicha tecnología para la buena gestión del servicio (servicios inteligentes). Generación de datos para diversas finalidades, todas ellas ya estudiadas, y con especial referencia a la descrita en el siguiente punto:
4. Control y fiscalización de los contratos a través de sistemas de IA que identifiquen irregularidades de todo tipo. Para ello disponemos de diferentes mecanismos: monitoreo constante, auditorías automatizadas, inspecciones apoyadas en datos, toma de decisiones apoyadas en datos, evaluación y mejora continua, etc., muchos de ellos también referidos en distintos lugares de esta obra.

Y todo ello rematado con el ejemplo real de las aún escasas pero buenas prácticas de algunas entidades del sector público, las cuales demuestran que la incorporación de esta tecnología disruptiva marca un antes y un después en el cumplimiento de los principios de legalidad, transparencia, objetividad, eficacia y eficiencia, unos principios que están estrechamente relacionados con la actividad contractual pública.

Conclusiones

Para algunas funciones a realizar por la IA, apenas se necesitará control humano: mejora en la redacción de los pliegos, corrección del uso de una normativa desfasada, la detección de aspectos que inicialmente pueda hacer pensar en una colusión de empresas, aplicación de criterios de adjudicación automáticos, etc. Otras funciones, sin embargo, como la comparación de ofertas que dependan de un juicio de valor y su valoración, es más delicada y debemos mantener las máximas cautelas para evitar sesgos.

No debemos olvidar que cualquier sistema es hackeable y, por lo tanto, sus sistemas pueden ser comprometidos o manipulados, como cualquier otra tecnología, introduciendo datos que puedan llevar a favorecer a algunos licitadores. Por ello, cualquier propuesta de la IA se debe considerar como una ayuda para la toma de decisiones, siempre supervisada.

Será necesario conocer quién y cómo se va a auditar la tecnología con IA especializada en contratación pública. Se deberá garantizar el máximo sistema de seguridad para encriptar todos los datos sensibles que se le van a proporcionar: partes confidenciales de una memoria técnica, datos de trabajadores a adscribir a un contrato con diversidad funcional, etc. debiendo asegurar la anonimización y el cifrado de datos.

En el balance entre la preocupación del uso de la IA y la ilusión por el valor que nos puede aportar, debe prevalecer esta última. La IA supone una bocanada de aire fresco en los servicios de contratación, en los que tenemos una gran carga de trabajo y tratamos con expedientes complejos y delicados. Vamos a tener un asistente en todo momento para corregir pliegos, buscar soluciones a los conflictos que vayan surgiendo en todas las fases del procedimiento a través de la comparación de resoluciones administrativas y jurisdiccionales, análisis de ofertas, etc.

En conclusión, el miedo a la irrupción de esta nueva tecnología se reduce mucho si pensamos que es una herramienta colaboradora en nuestro trabajo, siempre sometida a nuestra supervisión. No se trata de dejar que la IA decida, sino de que nos de información para una toma de decisión mucho más precisa.