Verdad y ficción en la era de la IA: el rol de la tecnología generativa y responsable.

Por Víctor Valle, Managing Director de Globant Perú/Ecuador

Un manto de pánico se extiende por las calles de Nueva York y Nueva Jersey. “¡Llegaron los marcianos! ¡Están cayendo meteoritos!”, gritan los transeúntes. La histeria colectiva tiene una explicación: acaba de terminar el programa radial “La guerra de los mundos”, dirigido por el actor Orson Welles, que narra una invasión alienígena a Estados Unidos con gases venenosos y rayos destructivos de calor.  Y aunque el conductor advirtió, al comienzo y cierre de la emisión, sobre la naturaleza ficticia de la historia, millones de despistados la creyeron cierta. “Radioyentes aterrorizados toman una obra de teatro bélica como algo real”, tituló la tapa del New York Times al día siguiente.

Para entender el confuso episodio hay que adentrarse en el contexto de la época. Antes de la irrupción de la TV, la radio era el medio de comunicación de las grandes masas, una fuente de información muy respetada por la ciudadanía. ¿Por qué alguien dudaría de la veracidad de sus noticias? Hoy, más de 80 años después, aunque mucho haya cambiado y con la tecnología como punta de lanza del progreso, estamos paradójicamente frente a un dilema similar: ¿debemos creer en lo que escuchamos, leemos o vemos todos los días en las distintas plataformas de contenido? ¿Ese video que nos llega por WhatsApp es realmente verídico? ¿La foto que se viralizó en Twitter está trucada? ¿El periodista pudo verificar la validez de sus fuentes para escribir ese artículo que firma?

Como sabemos, el acceso masivo a herramientas potenciadas por inteligencia artificial desdibujó un poco más los límites entre lo real y lo ficticio, con todos los riesgos que eso conlleva cuando de informarnos se trata. El historiador Yuval Harari explica este fenómeno con una analogía interesante: “Desde 1945 sabemos que la tecnología nuclear puede generar energía barata en beneficio de los seres humanos, pero también puede destruir físicamente la civilización. Por ello, hemos reformado todo el orden internacional para proteger a la humanidad y asegurarnos de que la tecnología nuclear se utilizara principalmente para el bien”. El autor sostiene que lo mismo podría suceder con el progreso tecnológico: “Debemos actuar con rapidez”, advierte.

Dentro de un contexto de inestabilidad global, con conflictos bélicos en distintos puntos del mundo, esta reflexión toma especial relevancia, hoy más que nunca.

Desde mi punto de vista, el desafío de enfrentar a las fake news y sus efectos nocivos, además de requerir mucho diálogo en entornos familiares, aulas y todo tipo de espacios públicos, es un problema social que involucra fundamentalmente a tres partes: por un lado, las empresas periodísticas, comunicadores y profesionales que generan noticias o contenidos informativos. Por otro, los consumidores de medios. El último eslabón corresponde a las compañías que tenemos la misión de desarrollar tecnologías que contribuyan a que las personas puedan informarse con libertad y responsabilidad.

Sin embargo, el desafío es complejo. Las redes generativas hacen difícil que distingamos entre contenido humano y algoritmos. Los análisis semánticos no abordan contextos erróneos o afirmaciones falsas en imágenes y no superan las barreras lingüísticas. Aquí es donde se necesita la colaboración humana con la IA. Esa intervención es esencial para aprovechar el potencial de la IA y determinar sus usos positivos y negativos.

Debemos afrontar un cambio cultural: las empresas tecnológicas tenemos que enfocarnos en un desarrollo consciente y responsable de la IA, ya sea dentro y fuera de nuestras organizaciones, que tenga un impacto social positivo.

En la actualidad, la tecnología ocupa un lugar central en la agenda global. Nos encontramos en una etapa propicia para reflexionar sobre el uso de la inteligencia artificial, considerando tanto sus ventajas como sus riesgos, y buscando potenciar los aspectos positivos mientras mitigamos los negativos. Como afirmó Confucio, el famoso pensador chino: “Los seres humanos son más importantes que los instrumentos. Los instrumentos son creados por los hombres y utilizados por ellos para alcanzar sus objetivos”. Debemos recordar que corregir un error es fundamental, ya que no hacerlo puede llevarnos a cometer errores aún mayores.

Por eso, cuando hablamos de IA, es fundamental seguir promoviendo un debate reflexivo que ponga siempre al humano en el centro.