Más inteligencia pero también mas humanidad

La IA ya forma parte de la cotidianidad. Desde plataformas que agilizan trámites hasta algoritmos que analizan datos en salud, educación o finanzas, la promesa de la automatización parece imparable. Sin embargo, el verdadero riesgo no está en la IA en sí, sino en dejarla actuar sin supervisión humana.

Un sistema mal entrenado puede reproducir desigualdades, excluir comunidades o amplificar errores. En un país con brechas territoriales, culturales y tecnológicas, esos sesgos pueden tener consecuencias profundas.

El nuevo paradigma global en IA no busca eliminar la participación humana, sino integrarla. El enfoque Human-in-the-Loop (HITL) propone que los sistemas inteligentes trabajen junto a las personas, combinando lo mejor de ambos mundos: la precisión de las máquinas y el criterio de los humanos.

Según Juan Rojas, Design Lead Senior Consultor de Endava, “HITL es el principio que sostiene la evolución actual de la inteligencia artificial, porque involucra al ser humano dentro de los propios algoritmos y modelos”. A diferencia de la automatización total, este modelo promueve una colaboración activa donde la intervención humana ocurre en etapas clave: validación, interpretación y ajuste.

“No se trata de negar la automatización, sino de garantizar que el criterio humano, con toda su complejidad, sea parte del proceso de aprendizaje y decisión de los sistemas inteligentes”, puntualiza Rojas.

El enfoque HITL también invita a pensar en los límites de la automatización. Según Rojas, “no debemos delegar el 100% de los procesos a la inteligencia artificial. El ser humano debe seguir validando, refinando y mejorando los modelos para garantizar información más precisa”.

El especialista advierte que la IA no es neutral: puede reproducir sesgos, amplificar desigualdades o incluso manipular emociones. Por ello, la supervisión ética y la regulación clara son indispensables. “La IA puede generar imágenes o videos falsos con gran realismo, lo que implica riesgos incluso emocionales. Por eso, quienes trabajamos en tecnología debemos garantizar que la innovación esté guiada por principios éticos y humanos”, enfatiza.