Centauro, la evolución de los Algoritmos de las IA Generativas

¿Cómo podemos utilizar el potencial de la inteligencia artificial sin erosionar el juicio humano? La respuesta se articula en la noción del ‘centauro humano-algoritmo’, una metáfora que describe la asociación simbiótica entre humanos y máquinas.

La IA generativa es un subconjunto de la inteligencia artificial que permite a las computadoras generar nuevo contenido después de ser entrenadas en un conjunto de datos. Este tipo de inteligencia ha permeado en dominios tan variados como el arte, el marketing, la educación y la industria. La personalización de contextos y la capacidad de ofrecer análisis predictivo se encuentran entre sus principales características, aunque esto ha suscitado preguntas sobre la propiedad intelectual y si el resultado es realmente auténtico.

En este contexto, el modelo de centauro se convierte en clave, ya que combina las fortalezas humanas (intuición, creatividad, razonamiento ético) con la capacidad y velocidad de un algoritmo. Al menos, según dice Soroush Saghafian de Harvard, esta cooperación podría presentarse de muchas formas, desde algoritmos que sugieren borradores que los humanos revisan hasta humanos que establecen los parámetros a seguir por los modelos. Esto requerirá un aprendizaje mutuo entre algoritmos menos sesgados y humanos más alfabetizados digitalmente.

Los beneficios del centauro incluyen modelos más interpretables, menor aversión a los algoritmos y un mejor aprendizaje curricular para tareas conductuales y con datos ruidosos. También hace posible expresar objetivos complejos que ni siquiera son matemáticamente definibles. En varios experimentos, los centauros han tenido un desempeño mejor que tanto el humano promedio como un enfoque completamente basado en IA, demostrando que el todo (humano/máquina) es en estos casos mayor que la suma de sus partes (humano y/o máquina).

Pero también debemos dar la voz de alarma sobre los peligros de la automatización excesiva, la devaluación del trabajo creativo humano y los nuevos niveles de amplificación de los sesgos existentes a través de los datos de entrenamiento. También plantea la pregunta de si los centauros pueden heredar de sus padres humanos conductas defectuosas, por ejemplo, del tipo ‘tríada oscura’. Por lo tanto, se necesita una arquitectura regulatoria estricta, políticas de privacidad sólidas y disposiciones legales que garanticen la transparencia para lo mismo.

Con respecto a las tendencias futuras, vemos un futuro brillante, donde los centauros emergen como contribuyentes influyentes en importantes dominios, incluidos la salud, la educación y la justicia. La visión es desarrollar centauros ‘cognitivos selectivos’, quienes puedan determinar cuándo recurrir a la intuición humana y a la lógica algorítmica. El documento también presenta algunas técnicas derivadas de esta visión, como el aprendizaje simbiótico, ponderaciones de atención humana y avances de los respectivos modelos de lenguaje grandes, incluidos los LLM.

Algo que considerar en medio de este auge es la visión del libro de Daniel Kahneman ‘Ruido: un defecto en el juicio humano’, de que incorporar la intuición humana en el proceso puede agregar variabilidad (es decir, ruido) y sesgos no deseados a los algoritmos. Para abordar esto, se proponen sugerencias como la higiene de decisiones, estructuras mediadoras evaluativas y transparencia algorítmica. Así que el desafío es un modelo que presumiblemente combine lo mejor del juicio humano sin copiar o reducir sus posibles defectos.

Necesitamos exigir responsabilidad compartida: moldear centauros no solo para la competencia en tareas, sino para una ética de colaboración. El problema aquí no es tecnológico sino humano: ¿cómo permitimos que tanto la IA generativa como nuestra intuición actúen dentro de un conjunto de límites que sea respetuoso, inclusivo y eficiente? Este modelo híbrido podría marcar el comienzo de una nueva era de toma de decisiones inteligentes y con una mentalidad ética.

Referencias:

Kahneman, Daniel y Colaboradores, Ruido: Un fallo en el juicio humano. (2021)

Soroush Saghafian, and others, Effective Generative AI: The Human-Algorithm Centaur. (2024)

MSc. Ricardo Ruette Velásquez