Con esta pregunta comencé mi participación en la excelente XIII Jornada Técnica organizada por el IGEP “La Inteligencia Artificial en la Gestión del Directorio”.
Para adentrarnos en el tema, propuse una serie de posibles respuestas a las seis preguntas que los Directores y sus asesores deben tener en cuenta, esbozadas en el artículo AI and the Role of the Board of Directors (harvard.edu), relacionando los roles del Directorio y los beneficios esperados en cada una de las decisiones que debe tomar relacionadas con el uso de la AI (“uso” en sentido amplio).
Por supuesto, la primera responsabilidad es la de mantener un gobierno de TI eficiente, dentro del cual se contemplará el gobierno de la AI y la relación con la dirección y con los auditores, tanto internos – los ojos y oídos del Directorio – como externos.
Respecto a las dos primeras preguntas, invité a repensar a la IA como tecnología transformadora, con capacidad de revolucionar (EFECTO DISRUPTIVO) industrias enteras, creando nuevas oportunidades de negocio y presentando nuevos riesgos para las empresas, para analizar cómo la IA es utilizada actualmente por la empresa y sus competidores y cómo puede alterar el negocio y la industria de la empresa.
La tercer pregunta, respecto a las implicaciones estratégicas y los riesgos asociados a los productos y servicios de IA, nos lleva a pensar si deberíamos usar o no AI en nuestras organizaciones. En cuanto a las implicaciones estratégicas, es importante alinear las iniciativas de AI con los objetivos organizaciones y las expectativas de las partes interesadas, impulsando el valor estratégico. Respecto a los riesgos, hay mucho por considerar, tal como es mencionado por ISACA (asociación profesional global dedicada a la seguridad de la información, la gobernanza, el aseguramiento, el riesgo, la privacidad y la calidad):
Ø Impacto de la ciberseguridad y la resiliencia / reacciones exageradas: mientras que algunas empresas reaccionarán de una manera que excluya la IA de los procesos empresariales, otras pueden moverse en la dirección opuesta, reaccionando de forma exagerada y favoreciendo la IA y confiando demasiado en los resultados de la IA no validados
Ø Responsabilidad ¿Quién es responsable por la toma de decisiones sobre la utilización y la rendición de cuentas de la IA?
Ø Riesgo de privacidad por datos en modelos de IA: propiedad intelectual (PI), secretos comerciales, contenido de la competencia y otros
Ø Uso intencionado y no intencionado, Integridad de los datos
Ø Propiedad inválida: ¿es mío si lo creo con AI?
Ø Estructuras de permisos internas débiles
Ø Brechas de habilidades
Ø Riesgo social: desinformación, deep fakes, generadores de voz de IA, etc.)
La cuarta pregunta está orientada al impacto de las aplicaciones de IA en la fuerza laboral y otras partes interesadas, y representa dos caras de la misma moneda: por un lado, la necesidad de capacitar al personal utiliza la IA en el trabajo, pero recordando que ese mismo personal que se capacita es el próximo riesgo de fuga de talento.
Las últimas dos preguntas están relacionadas con las implicaciones para la gobernanza del uso de la IA y las políticas y controles relacionados y para el cumplimiento de las obligaciones legales, reglamentarias y éticas. Es importante el rol del auditor para identificar incumplimientos e informar los mismos al Directorio o al Comité de Auditoría para su solución, así como para impulsar la mejora continua de los controles implementados.
Por último, a modo de séptima pregunta imaginaria y para cerrar la conversación, propuse un paralelismo entre el propósito de la AI y nosotros...los humanos: si la AI trata de imitar el pensamiento humano y los humanos nos equivocamos, y si la AI en algunos casos alucina, responde con información incoherente o sin sentido igual que nosotros…no necesitará en algún momento un psicólogo?