(*) Escrito por Valeria Acosta y Antonio Robles
1. Introducción
¿Es costosa la corrupción? En 2019 se estimó que el Estado obtuvo pérdidas de aproximadamente S/ 23,297 millones, esto se traduce al menos en 3% del PBI (Contraloría General de la República, 2020, pp. 15-52). Por solo mencionar un ejemplo, retrocedamos al 2018, año que albergó uno de los casos más emblemáticos de la historia del país: El Club de la Construcción (Ministerio Público, s.f.).
¿Cómo operaba? Luego de la publicación de licitaciones públicas en Provias Nacional, los representantes de las empresas coludían con la finalidad de determinar a quien se le otorgaría la buena pro a cambio del 2.92% del valor referencial de la obra [1]. Al respecto, la falta de predictibilidad y la demora en resolver son circunstancias que hacen pensar que los mecanismos tradicionales propios de la Administración son insuficientes para resolver actos fraudulentos que cada vez son más frecuentes y sofisticados.
En ese sentido, ante la necesidad de incluir métodos innovadores a fin de detectar y sancionar este tipo de actividades, el presente ensayo explorará cómo la Inteligencia Artificial (IA), a partir de la Big Data (BD) y el Machine Learning (ML), es una herramienta fundamental que permita, a largo plazo, a la Contraloría ejercer sus funciones adecuadamente.
2. Regulación social
La obligación de implementar el uso de nuevas tecnologías en las actividades de la Administración se origina a partir de la definición de regulación en sentido estricto [2]. Barco, Huapaya y De La Cruz [3] coinciden en que una de las razones de ser del fenómeno de la regulación parte del deber del Estado para estipular normas con la finalidad de mitigar los riesgos que el ejercicio de los derechos individuales (concursos públicos, etc.) puede causar sobre la colectividad.
No obstante, este deber que ordena al Estado a regular tanto sus actividades como las del privado, se ha visto desfasada por la falta de cobertura real en la supervisión y potestad sancionadora sobre la contratación; actividad que usualmente está ligada a la corrupción, y que demanda el uso de métodos innovadores, en la medida que la producción de estos actos jurídicos, como resultado del ejercicio de potestades administrativas, suponen un servicio para la colectividad.
3. Inteligencia artificial (IA)
Es un hecho que la mayoría de investigaciones sobre corrupción, hasta hoy, han buscado identificar relaciones causales entre las variables que permiten su desarrollo. Frente a ello, el desarrollo de algoritmos basados en IA y BD han abierto un nuevo campo para el desarrollo de aplicaciones que detecten y prevengan la corrupción.
a. Big Data
Hasta 2014, el 90% de los datos recopilados en Internet fueron creados en los dos últimos años anteriores [4]. En esa línea, la expresión BD hace referencia a los datos masivos, que se producen como consecuencia de la interconexión de las tecnologías asociadas a la Cuarta Revolución Industrial [5] y, que se caracterizan por su alto volumen, velocidad, variedad y valor. Aspectos que, finalmente, derivan en la creación de un campo dedicado al análisis, procesamiento y almacenamiento de grandes cantidades de datos: Ciencia de Datos [6].
Precisamente por ello, el BD está relacionado a la IA, en la medida que la nueva capacidad de procesamiento de los sistemas de computación permite tratar, aprender, resolver y decidir a partir de los grandes datos bajo un cambio de paradigma automatizado como el data mining (DM) y el ML, técnicas que categorizan los datos y les atribuyen significado para pasar a convertirse en información.
Al respecto, en los usos de la tecnología para conocer y evaluar los riesgos de la corrupción es necesario el manejo de indicadores, partiendo además de la “importancia de especificar el tipo respectivo de corrupción que se busca combatir” (Köbis, Starke & Rahwan, 2021). Esto último lo permite el DT, que encuentra patrones escondidos en los datos y les da significado para determinar un comportamiento y calificarlo como irregular o regular tomando como base un procedimiento predeterminado ¿Qué permite su uso? (i) La constatación de una mala administración que puede corresponder a otros órganos especializados, a quien se dará el oportuno traslado (conflicto de competencias institucionales), (ii) la verificación de irregularidades o de un problema sistemático: lo que dará lugar a un plan de mejora por parte del órgano afectado y (iii) la determinación de posible responsabilidad disciplinaria, con propuesta de incoación de expediente al órgano competente [7].
b. Machine learning
Como señalan (Köbis, Starke & Rahwan, 2021), “estas herramientas anticorrupción basadas en IA están impulsadas principalmente por los recientes avances en el aprendizaje automático [o ML]”; una rama de la IA que se centra en “conseguir reproducir el mecanismo de aprendizaje presente en los seres vivos, principalmente en el ser humano, en forma de algoritmo, para que pueda ser entendido y replicado de manera autónoma por un ordenador” (Sanchez, 2017, pp 9). Grosso modo, busca adecuar la máquina a nuevas circunstancias y a detectar nuevos patrones en la información que analizará de forma independiente. Así, permitirá la clasificación de los sujetos o eventos en base a su comportamiento en relación con la variable objetivo que puede ser precedentes vinculantes o jurisprudencia internacional [8].
Ahora, es innegable la falta de confianza o presupuesto que padecen muchas administraciones para implementar estas tecnologías. Frente a ello, el ML brinda soluciones al disponer de tres categorías: métodos supervisados, no supervisados y semi supervisados (no excluyentes entre sí). Para efectos del ensayo, importará la última de ellas, que permite que exista control base por parte de un supervisor para que luego, a través de un algoritmo, la máquina aprenda a partir de lo que este le ordenó en primera instancia.
En ese sentido, el ML no sólo detectará un comportamiento inusual, relaciones inexplicables o características del fraude a partir de lo dispuesto en las bases de un concurso, obligaciones de un contrato o precedentes, sino también predecirá cuándo estamos frente a un caso de corrupción y almacenará dicha información autónomamente para su uso sobre acciones futuras. Recordemos que esta técnica tiene origen en métodos estadísticos [9].
c. Potenciales riesgos del uso de IA
La IA tiene un alto potencial para resolver problemas latentes, como la corrupción. Sin embargo, hay que tener presente algunos riesgos, entre ellos, los siguientes (Cheatham, Javanmardia, & Samandari, 2019) (Universidad de Cambridge, s.f.):
(i) Veracidad: es complicado clasificar, vincular y usar correctamente los datos, más si son no estructurados, como los de las redes sociales, pues aumenta la probabilidad de errores como revelar datos sensibles.
(ii) Seguridad: es posible que personas ajenas exploten datos que se recopilan para alimentar los sistemas de IA. En caso que no existan medidas de seguridad adecuadas, la información puede ser utilizada para crear, por ejemplo, identidades falsas.
(iii) Mal comportamiento de modelos: Los modelos pueden causar problemas si entregan resultados sesgados (por ejemplo, si una población está sub-representada o el sesgo del programador), estos se vuelven inestables o poco confiables.
d. Aproximaciones para minimizar riesgos
Para poder minimizar los riesgos y que el diseño de la IA sea viable, debe tomarse en cuenta lo siguiente (Cheatham, Javanmardia, & Samandari, 2019) (KPMG, 2020, p.16):
(i) Claridad: utilizar métodos de identificación estructurados para detectar los riesgos sobre los escenarios más preocupantes y priorizar los riesgos asociados.
(ii) Amplitud: Implementar controles en todo nivel para guiar el desarrollo y el uso de sistemas de IA y garantizar una supervisión adecuada. Asimismo, es importante contar con un equipo de riesgo que identifique y mitigue las contingencias legales y regulatorias (método semi-supervisado).
(iii) Diferenciación: Reforzar controles específicos dependiendo de la naturaleza del riesgo. Es necesario diferenciarlos para saber el tipo de controles, algoritmos necesarios, requerimientos de datos, análisis de desempeño para identificar degradaciones o sesgos, etc.
(iv) Desarrollo y evaluación: considerando que la IA no es estática, debe monitorearse en tiempo de ejecución, obtener indicadores clave de rendimiento y riesgo, y métricas para saber la precisión, integridad, y resiliencia de los modelos.
e. La Contraloría
El rol sobre el control, diseño y ejecución de la IA es de vital importancia si deseamos que los modelos prosperen, por ello la Contraloría debe ser el encargado del manejo y supervisión de la IA. Ello considerando que cuentan entre otras, con las siguientes funciones: (i) presentar anualmente el informe de auditoría practicado a la Cuenta General de la República; y, (ii) controlar y supervisar los gobiernos regionales y locales, en forma descentralizada y permanente (Contraloría General de la República, s.f.).
4. Conclusión y observaciones finales
Finalmente, se puede señalar que el BD, ML y la IA pueden ser herramientas extraordinarias para combatir la corrupción, no solo porque acelera el proceso de búsqueda e identificación, sino porque otorga precisión. Recordemos que las nuevas tecnologías se actualizan y el Estado no debe quedarse atrás; si bien su implementación, como cualquier otra herramienta novedosa, trae riesgos y costos, estos pueden ser mitigados con un buena gestión. Más aún si consideramos que los costos como consecuencia de la corrupción económica, social y estadísticamente son mayores [10].
- Valeria Acosta Chia .- Alumna de décimo segundo ciclo de la Facultad de Derecho de la Universidad del Pacífico. Actualmente, se desempeña como practicante legal en Qapu Ventures & Legal Lab.
- Antonio Robles Vargas.- Alumno de décimo primer ciclo de la Facultad de Derecho de la Universidad del Pacífico. Actualmente, se desempeña como practicante legal en la Secretaría Técnica Regional de Eliminación de Barreras Burocráticas del Indecopi y como miembro de la comisión de edición de la Revista de Derecho Forseti.
Referencias
[1] Entre sus miembros se encontraba, incluso, el entonces funcionario del MTC, Carlos García.
[2] También denominado como regulación de riesgos y regulación social.
[3] Véase los siguientes textos: De la Cruz Ferrer, Juan (2008). “Teoría de la regulación y Derecho público”. En: Zegarra Valdivia, Diego (Ed.). Regulación, instituciones y competencia en sectores estratégicos (pp. 1-39). Lima: Grijley; Huapaya, R. (2010). Algunos apuntes sobre las relaciones entre el derecho administrativo económico y el concepto anglosajón de la “regulación”. IUS ET VERITAS, 20(40), 302-344. https://revistas.pucp.edu.pe/index.php/iusetveritas/article/view/12157; Alza, C. (2011). ¿Qué se entiende por Regulación? Enfoques y equivocidad?. Revista De Derecho Administrativo, (10), 317-328. https://revistas.pucp.edu.pe/index.php/derechoadministrativo/article/view/13699 Puyol, J. (2014). Una aproximación al Big Data. Revista de Derecho UNED, 1(14), 471-505. http://e-spacio.uned.es/fez/eserv/bibliuned:rduned-2014-14-7150/Documento.pdf
[4] También denominada como era de la “fábrica inteligente”, representa un cambio de paradigma social y tecnológico que impacta en múltiples aspectos de la vida humana a partir de la creciente digitalización y coordinación cooperativa en todas las unidades productivas de la economía como consecuencia de la interconexión de máquinas y de sistemas en el propio emplazamiento de producción, y el fluido intercambio de información.
[5] Cabe señalar que la implementación en el uso de Big Data no solo trae como consecuencia la lucha contra corrupción, sino también deriva en usos secundarios. Como señaló la viceministra colombiana del Ministerio de las Tecnologías de la Comunicación e Información, María Mejía, en entrevista para el periódico el Tiempo (2016, párr.4):
[6] “La estrategia consiste en la investigación aplicada, la formación de proyectos, la educación y el emprendimiento. Con la conformación de centros de excelencia y apropiación se dará acompañamiento a empresas interesadas en temas de big data. También se busca apoyar programas académicos que gradúen científicos de datos en el país”.
[7] Por poner un ejemplo, la Comisión Europea ha desarrollado Arachne, “una herramienta de prospección de datos o de puntuación de riesgos por la cual es posible detectar las situaciones de conflicto de intereses ya que permite mostrar los vínculos jurídicos entre empresas y personas, y, en consecuencia, es capaz de detectar los riesgos” (Campos, 2021).
[8] Como señalan, (Silver et al., 2017) “en lugar de que un programador especifique el curso de acción de la máquina para todos los resultados posibles, los algoritmos de IA pueden encontrar soluciones por sí mismos, algunas de las cuales son impredecibles, incluso para los programadores humanos” (pp. 356).
[9] En efecto, el Parlamento Europeo (2017, Considerando b) recuerda que con los macrodatos en algunos casos se capacitan “dispositivos de inteligencia artificial como redes neuronales y modelos estadísticos con el fin de predecir algunos acontecimientos y comportamientos”.
[10] Cabe advertir que la Administración al momento de regular el uso de estas tecnologías deberá actuar de conformidad con el principio de legalidad. De esta manera, recomendamos crear un marco regulatorio con una lista abierta y no taxativa para el uso de estas tecnologías en la potestad fiscalizadora, siempre que se respeten los límites constitucionales de los derechos establecidos en la Constitución y Tratados internacionales.
Bibliografía
Alza, C. (2011). ¿Qué se entiende por Regulación? Enfoques y equivocidad?. Revista De Derecho Administrativo, (10), 317-328. https://revistas.pucp.edu.pe/index.php/derechoadministrativo/article/view/13699
Campos, C. (2021). Data Mining’ contra la corrupción en los fondos europeos. CincoDías. https://cincodias.elpais.com/cincodias/2021/11/03/legal/1635951205_097450.html
Cheatham, B. Javanmardia, K. & Samandari, H. (26 de abril de 2019). Enfrentando los riesgos de la inteligencia artificial. Obtenido de:https://www.mckinsey.com/business-functions/mckinsey-analytics/our-insights/confronting-the-risks-of-artificial-intelligence/es-CL
Contraloría General de la República. (2020). Cálculo del tamaño de la corrupción y la inconducta funcional en el Perú: Una aproximación exploratoria. Obtenido de:https://doc.contraloria.gob.pe/estudios-especiales/documento_trabajo/2020/Calculo_de_la_Corrupcion_en_el_Peru.pdf
Contraloría General de la República. Conoce la Contraloría. Obtenido de: https://www.contraloria.gob.pe/wps/wcm/connect/CGRNew/as_contraloria/as_portal/Conoce_la_contraloria/conoceContraloria/QuienesSomos/
Cotino, L. (2017). Big data e inteligencia artificial. Una aproximación a su tratamiento jurídico desde los derechos fundamentales. Revista Dilemata, 9(24), 131-150. https://www.dilemata.net/revista/index.php/dilemata/article/view/412000104/494
De la Cruz Ferrer, Juan (2008). “Teoría de la regulación y Derecho público”. En: Zegarra Valdivia, Diego (Ed.). Regulación, instituciones y competencia en sectores estratégicos (pp. 1-39). Lima: Grijley
El Tiempo (2016). Así se apropiará el ‘Big Data’ en nuestro país. El Tiempo. https://www.eltiempo.com/archivo/documento/CMS-16537461
Huapaya, R. (2010). Algunos apuntes sobre las relaciones entre el derecho administrativo económico y el concepto anglosajón de la “regulación”. IUS ET VERITAS, 20(40), 302-344. https://revistas.pucp.edu.pe/index.php/iusetveritas/article/view/12157
KPMG (2020). ¿Cómo controlar la inteligencia artificial (IA)?. Obtenido de: https://assets.kpmg/content/dam/kpmg/ar/pdf/2020/como-controlar-la-inteligencia-artificial.pdf
Ministerio Público (s.f). Caso Club de la Construcción. Carpetas fiscales. Obtenido de: https://www.mpfn.gob.pe/equipo_especial/caso_uno/
Molina, L. (2002). Data mining: torturando a los datos hasta que confiesen. Universitat Oberta de Catalunya. https://www.businessintelligence.info/resources/assets/dss/molina-torturando-datos.pdf
Parlamento Europeo (2017). Resolución de 14 de marzo de 2017, sobre las implicaciones de los macrodatos en los derechos fundamentales: privacidad, protección de datos, no discriminación, seguridad y aplicación de la ley (2016/2225(INI)).
Ponce, J. (2018). La prevención de riesgos de mala administración y corrupción. La Inteligencia Artificial y el derecho a una buena Administración. Revista Internacional en Transparencia e Integridad, (6), 1-19. http://www.encuentros-multidisciplinares.org/revista-65/juli_ponce.pdf
Puyol, J. (2014). Una aproximación al Big Data. Revista de Derecho UNED, 1(14), 471-505. http://e-spacio.uned.es/fez/eserv/bibliuned:rduned-2014-14-7150/Documento.pdf
Salinas, A. (2020). Sobre la implementación de algoritmos de Machine Learning en las Ciencias Penales y sus implicaciones jurídicas. Revista Mexicana de Ciencias Penales, (12), pp. 192-204. https://revistaciencias.inacipe.gob.mx/index.php/02/article/view/373/304
Sanchez, R. (2017). Predicción de la corrupción vía red neuronal. Trabajo fin de grado [Universidad Autónoma de Madrid]. Repositorio Institucional UMA. https://repositorio.uam.es/handle/10486/677832
Silver, D. et al. (2017). Mastering the game of Go without human knowledge. Nature, 550(7676), pp. 354-359. https://www.nature.com/articles/nature24270
Universidad de Cambridge. (s.f.). Risks from Artificial Intelligence. Centre for the study of existential risk. Obtenido de:https://www.cser.ac.uk/research/risks-from-artificial-intelligence/
