La inteligencia artificial (IA) ha irrumpido en la vida de todos planteándonos el desafío de entender ante qué tipo de herramienta estamos, cómo usarla, si conviene usarla, y cuáles serían las implicancias de su uso.
Estas mismas cuestiones son las que enfrenta el sector público argentino, además de deber establecer el marco regulatorio para su uso en el ámbito público. Este artículo pretende describir lo hecho, hasta el momento, en esta materia.
El análisis y acciones adoptadas por los organismos públicos especialistas en la materia sirven de guía de abordaje también para la consideración del sector privado.
Usualmente los gobiernos ante nuevas herramientas consultan y evalúan lo hecho por las organizaciones internacionales de las que forman parte. Fue así como mediante la Disposición de la Subsecretaría de Tecnologías de la Información N° 2/2023[1] aprobó las Recomendaciones para una IA Fiable de acuerdo con las recomendaciones de la UNESCO[2] de 2021[3]. La normativa argentina al adherir a estas recomendaciones hace un especial énfasis en que la IA pueda llevar adelante una determinada actividad, pero ello no la hace responsable. La responsabilidad se mantiene en las personas humanas que aprueban su uso.
Los Principios de la UNESCO que adopta la norma argentina para el sector público sirven de guía también para el análisis y la evaluación del sector privado. Ellos son:
• Proporcionalidad e inocuidad. Esto es, no se debe considerar que la IA es la única solución, sino que debe implementarse cuando pruebe ser la solución más apta.
• Seguridad y Protección. Debe analizarse qué previsiones contempla en caso de que se produzcan daños no deseados por filtraciones en la seguridad de los datos y cómo se encuentran resguardados.
• Equidad y no discriminación. El uso de la IA no deberá discriminar a aquellas personas que no manejen o no tengan conocimiento de esta tecnología.
• La tecnología debe ayudar a la sostenibilidad, ya que en algunos casos podría operar en contra.
• Derecho a la intimidad y protección de datos. Estos son derechos básicos que no deberían ser violados por el uso de la IA, por ello la importancia de respetar estos derechos.
• Supervisión y decisión humanas. La responsabilidad ética y jurídica corresponderá siempre a las personas humanas que aprueben la utilización de la IA.
• Transparencia y explicabilidad. Poder explicar, en forma entendible, el por qué del uso de la herramienta y cómo se trata a los datos y los usos que se dará a los resultados.
• Responsabilidad y rendición de cuentas. Los actores de la IA deben actuar con el máximo cuidado de los derechos humanos y las libertades, facilitando la educación sobre estas nuevas herramientas.
• Gobernanza y colaboración adaptativas de múltiples partes interesadas. La utilización de la IA requerirá del enfoque y de una participación humana multidisciplinaria para que los resultados sean útiles.
La Argentina suscribió también los Principios de la OCDE[4] sobre IA[5] que fueron aprobados en 2019 y revisados en 2022. Estos principios siguiendo la misma orientación que los de la UNESCO, “promueven el uso de una IA innovadora y fiable, que respete los derechos humanos y los valores democráticos”.
Los 5 Principios son: 1)Crecimiento inclusivo, Desarrollo sostenible y bienestar; 2) Derechos humanos y valores democráticos, incluida la equidad y la privacidad; 3) Transparencia y explicabilidad; 4) Robustez, seguridad y protección y 5) Responsabilidad.
Los principios se complementan con Recomendaciones para los responsables de las políticas públicas de modo de poder asegurar el cumplimiento de los Principios arriba enumerados. Ellas son: Invertir en investigación; Fomentar un ecosistema inclusivo que facilite la IA; Configuración de un entorno de gobernanza y políticas interoperable que facilite la IA; Desarrollo de la capacidad humana y preparación para la transformación del mercado laboral y Cooperación internacional para una IA confiable.
Téngase en cuenta que el sector público debe pensarse como un único ente y por lo tanto los desarrollos que realicen los distintos poderes gubernamentales, así como los diferentes ministerios del Poder Ejecutivo y las numerosas dependencias autárquicas deberían actuar coordinadamente en el sentido de que los resultados producidos por la IA puedan ser “leídos y analizados” por la mayor parte de las estructuras gubernamentales, utilizando sistemas compatibles.
Por su parte el G20[6] del que Argentina es miembro, adoptó los “Principios de IA centrados en el ser humano” en su reunión de Roma, Italia en 2021.
Analizada la utilidad de una IA fiable, la Disposición N° 2/2023, prescribe que a continuación, se debe hacer hincapié en el cuidado de la ética a lo largo de cada una de las etapas en las que organiza la puesta en marcha:
Etapa 1: Diseño y modelado de datos. Es fundamental que el diseño no tenga sesgo de ningún tipo y por ello es indispensable un abordaje multidisciplinario.
Etapa 2: Verificación/Validación. Debe probarse el diseño del modelo con una muestra de datos.
Etapa 3: Implementación. Deberá analizarse si los desarrollos se guardarán en infraestructura propia desarrollada o en la nube o en sistemas que combinen ambas soluciones.
Etapa 4: Operación y mantenimiento. No menos importante que la implementación de la solución es el mantenimiento en el tiempo y el correcto funcionamiento de la misma. El mantenimiento debe incluir la actualización del diseño en caso de ser requerido para acompañar los cambios normativos en el tiempo.
La SIGEN[7], por su parte, encargada del control interno de los organismos del sector público, así como de aquellas empresas con participación estatal mayoritaria aprobó en 2022 la Resolución N° 87/2022[8] que estableció controles a ser implementados en cuanto a la gestión de tecnologías de la información, aprobándose las Normas de Control Interno para la Tecnología de la Información (TI). La documentación de procedimientos auditables de modo de poder detectar desviaciones de los objetivos e implementar las acciones que las logren corregir es un tópico fundamental que el sector privado tampoco debe descuidar.
Es indispensable volver a resaltar que un sistema de IA no puede reemplazar la responsabilidad final de las personas humanas y la obligación de estas de rendir cuentas, tanto en el ámbito público como el privado.
Complementariamente y centrada en la preocupación del uso de los datos la Agencia de Acceso a la Información Pública aprobó mediante la Resolución N° 161/2023[9] la creación del “Programa de Transparencia y Protección de Datos Personales en el uso de la Inteligencia Artificial” para que pueda establecerse un análisis de qué datos se piden y conservan, para qué y finalmente para quién queda la información recabada, cómo se archivará y hasta cuándo. Es sumamente relevante que la utilización que se le dé a la información procesada por la IA no pueda usarse para ninguna forma de discriminación en contra de las personas.
Entendemos que nuevas normas serán aprobadas a partir de la mayor utilización de la IA por parte del sector público que se vaya realizando y los resultados obtenidos.
[1] https://www.boletinoficial.gob.ar/detalleAviso/primera/287679/20230602
[2] UNESCO: Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura
[3] https://www.unesco.org/es/legal-affairs/recommendation-ethics-artificial-intelligence y https://unesdoc.unesco.org/ark:/48223/pf0000381133/PDF/381133eng.pdf.multi.page=62
[4] OCDE: Organización para la Cooperación y el Desarrollo Económicos
[5] https://www.oecd.org/en/topics/ai-principles.html
[6] G20: (Grupo de los Veinte) es el principal foro internacional de cooperación económica, donde se reúnen las principales economías del mundo para discutir y coordinar políticas macroeconómicas, financieras y de desarrollo.
[7] SIGEN: (Sindicatura General de la Nación) es el órgano de control interno del Poder Ejecutivo Nacional argentino
[8] https://www.boletinoficial.gob.ar/detalleAviso/primera/257108/20220204
[9] https://servicios.infoleg.gob.ar/infolegInternet/anexos/385000-389999/389231/norma.htm