Todas las nuevas tecnologías conllevan riesgos cuando se introducen en la operatoria de una empresa. La inteligencia artificial (IA) no es una excepción y el Directorio debe evaluar las implicancias por el uso de dichas herramientas no solo desde un punto de vista regulatorio sino por la posibilidad de que la empresa reciba algún tipo de reclamo y/ o sufra una pérdida financiera.
Aunque estos riesgos variarán de un sector a otro y dependerán de dónde se utilicen las herramientas, pueden existir distintas situaciones que impacten negativamente en la empresa. Por ejemplo, el uso de información confidencial del cliente de la empresa que sea subida a un chatbot de IA conlleva un riesgo en si en la medida que no haya un cabal conocimiento de donde termina esa información. Otro ejemplo, es el uso de imágenes que podría conllevar una infracción de la propiedad intelectual. Mas allá de estas nuevas exposiciones, esta nueva tecnología también implica un aumento de la exposición al riesgo cibernético
A ello se suma que al igual que la IA aún se encuentra en sus primeros días, también lo están la legislación y la regulación de la IA. Las organizaciones deben monitorear el panorama legal y regulatorio y asegurarse de que comprenden cómo evolucionan sus obligaciones de cumplimiento de manera similar. Un ejemplo es la Ley de la IA de la UE.
Si bien muchas empresas son conscientes de los riesgos potenciales de la IA, no están evaluando adecuadamente una estrategia de gestión de riesgos.
Un riesgo emergente para directores
En última instancia, la responsabilidad de algunos de estos riesgos podría recaer en la alta dirección: no sólo son responsables de gestionar la implementación de la IA, sino que también deben comprender los riesgos que plantean dichas herramientas y tomar medidas para mitigar los posibles daños y perjuicios. Es más, una falta adecuada de una política de gobernanza en este tema, puede ser alegada contra los directores en forma de incumplimiento de las obligaciones de los mismos y afectar la reputación de una empresa y dar lugar a una demanda colectiva.
Los principales riesgos de la IA para los directores son:
1. Responsabilidad legal: cuando la IA asume un papel más relevante en la toma de decisiones corporativas, incluyendo su uso no revelado o la divulgación insuficiente de los riesgos asociados.
2. Reclamaciones por negligencia: que pueden incluir acusaciones de discriminación, sesgo, como consecuencia de fallos en la IA.
3. Responsabilidad por productos defectuosos/incumplimiento contractual
4. Reclamaciones por tergiversación: si se utiliza IA para generar informes como el financiero.
5. Falta de cobertura de seguros: si una empresa sufre pérdidas debido a un fallo de la IA y no cuenta con una cobertura de seguro adecuada, podrían surgir reclamos, y los directores podrían ser considerados responsables por incumplimiento de sus deberes al no haber gestionado una cobertura de seguro apropiada.
A pesar de sus desafíos, una organización debe establecer las mejores prácticas y mantener actualizados la gobernanza, los protocolos de cumplimiento y los marcos legales a medida que evoluciona la tecnología de IA. Las consideraciones a tener presente incluyen:
• ¿Cuál es el proceso de toma de decisiones para la adopción de nuevas tecnologías?
• ¿Cómo se hará el seguimiento del uso de la IA y las eficiencias de costos resultantes?
• ¿Existen medidas de ciberseguridad adecuadas para protegerse contra las vulnerabilidades relacionadas con la IA?
• ¿Existen procedimientos transparentes para responder a los problemas y errores de la IA?
• ¿Se ha capacitado adecuadamente al personal para usar y gestionar la IA, y está equipado con los recursos necesarios para hacerlo de manera efectiva?
• ¿Se ha adquirido una cobertura de seguro adecuada para protegerse contra las pérdidas relacionadas con la IA?
Estas son las preguntas claves que como mínimo un Directorio debería responder. A medida que la IA continúa evolucionando, es esencial que las empresas y sus Directorios tengan una sólida comprensión de los riesgos asociados a esta tecnología. Si se toman las medidas adecuadas, se puede aprovechar el potencial de la IA y minimizar sus riesgos.