Aplicaciones, riesgo y habilidades a considerar en el uso y explotación de la IA

La inteligencia Artificial (AI) es la inteligencia demostrada por las máquinas en oposición a la inteligencia natural mostrada por humanos o animales¹. En la última década tanto en la vida diaria como en el ámbito empresarial, el uso y explotación de la AI ha crecido exponencialmente en áreas tan diversas como la agricultura, biociencia, salud, genética, seguridad, ciberseguridad y marketing. En este último caso, por ejemplo, la IA permite, entre otros múltiples usos²:

• Compilar intereses de las personas basadas en sus comportamientos en redes sociales y la navegación en internet.
• Técnicas de regresión que pueden ser utilizadas para predecir valores numéricos de productos
• Apps de marketing que pueden leer emails, abrir y analizar adjuntos, ingresar datos en formatos predefinidos, y monitorear disparadores en redes sociales.
• Apps que pueden generar imágenes foto realistas de sketches de bocetos.

Más allá de los beneficios que las organizaciones buscan obtener implementando AI, existen factores importantes (riesgos y capacidades) que deben ser considerados. Estos deben ser tomados en cuenta y adaptados en función del rol o los roles que deseamos que la IA desempeñe en nuestra organización, estos pueden ser³:

• IA Asistida. – Automatiza ciertas tareas para asistir a las personas.
• IA Aumentada. – Apoya a las personas en la toma de decisiones.
• IA Autónoma. – Opera por sí sola sin el apoyo o intervención humana.

Según la guía Fundamentos de Inteligencia Artificial 2021 de ISACA los riesgos asociados son:

Riesgos Éticos

Opacidad

La falta de transparencia de cómo funcionan los algoritmos, la información que utilizan, y sus usos constituyen según muchos especialistas el principal riesgo ético.

Privacidad y Cumplimiento

La IA está impulsada por datos de diferente naturaleza entre las cuales puede haber información de comportamientos, asociaciones y tendencias relacionadas a actividades privadas de las personas que pueden ser utilizadas de forma no ética, violentando derechos y por lo tanto incumpliendo leyes y regulaciones

Superinteligencia

La IA es cada vez más autónoma y expande cada vez su capacidad de aprender sin supervisión. Puede llegar a ser un activo militar y económico importante que puede convertirse en un peligro en las manos equivocadas.

Imprevisibilidad

La IA está basada en programación y codificación efectuada por seres humanos la cual no está exenta de errores y que puede tener resultados inesperados. Asimismo, la calidad de los datos de los cuales aprenden puede no ser la adecuada. En los dos casos llevando a resultados no previsibles o peligrosos, sobre todo en industrias como la medicina y la industria militar.

Empleo

Aunque los humanos pueden mejorar sus habilidades y competencias quizás la rapidez con que esto ocurra no sea comparable con la IA. En ciertos sectores la IA está y seguirá reemplazando el trabajo humano.

Capacidades relevantes

Las organizaciones deben establecer un sistema de gobierno y gestión con capacidades importantes como; principios, políticas, procesos, roles y responsabilidades, tecnología y sobre todo habilidades y competencias de las personas que permitan explotar los beneficios del IA y gestionar sus riesgos.

Algunas de las habilidades que se pueden adquirir a través del entrenamiento en IA incluyen⁴:

Conocimiento del dominio: Investigación o relacionado con negocios.

• Visualización: Ver la historia en los datos.
• Gobierno de datos: Conocimiento general, incluyendo ética y seguridad.
• Ingeniería: Comprender el hardware, software y capacidades de almacenamiento disponibles y cómo utilizarlos.
• Gestión/limpieza: Obtener, limpiar y manipular la información.
• Enfoques analíticos (analítica de datos): Aplicar varios niveles de precisión para la solución.
• Aprendizaje automático: Enseñar a las computadoras a reconocer patrones.
• Probabilidades y estadísticas aplicadas.
• Algoritmos y modelado avanzado.
• Lenguaje de programación relacionado con IA
• Robótica

ISACA ha establecido un esquema de entrenamiento y certificación en IA para impulsar la carrera de aquellos profesionales que deseen perfilarse por esta rama https://www.isaca.org/resources/artificial-intelligence#2

Adicionalmente, se encuentra desarrollando y publicando continuamente guías y artículos de interés sobre este tema https://www.isaca.org/resources/artificial-intelligence

Notas:

1 (The Ethics of Artificial Intelligence, Jiewen (Wickey) Wang, CISA, 7 October 2021 –https://www.isaca.org/resources/news-and-trends/isaca-now-blog/2021/the-ethics-of-artificial-intelligence).

2 (¿Is Artificial Intelligence a Career Path for You? Author: Larry G. Wlosinski, CISA, CRISC, CISM, CDPSE, CAP, CBCP, CCSP, CDP, CIPM, CISSP, ITIL v3, PMP, 1 November 2018 – https://www.isaca.org/resources/isaca-journal/issues/2018/volume-6/is-artificial-intelligence-a-career-path-for-you)

3 Source: Munoko, I.; H. Brown-Liburd; M. Vasarhelyi; “; The Ethical Implications of Using Artificial

Intelligence in Auditing, “Journal of Business Ethics, vol. 167, iss. 2, 8 January 2020, https://link.springer.com/article/10.1007/s10551-019-04407-1.

4 (¿Is Artificial Intelligence a Career Path for You? Author: Larry G. Wlosinski, CISA, CRISC, CISM, CDPSE, CAP, CBCP, CCSP, CDP, CIPM, CISSP, ITIL v3, PMP, 1 November 2018 – https://www.isaca.org/resources/isaca-journal/issues/2018/volume-6/is-artificial-intelligence-a-career-path-for-you)