Algoritmos deshumanizantes

Hace algo más de dos meses, un muy buen amigo y mejor escritor me pidió escribir el prólogo de su libro “Algoritmos deshumanizantes”, un texto de bolsillo sobrio y muy potente, diferente a los libros sobre IA que había leído hasta el momento. A pesar de que Santiago Jiménez es un tecno-optimista que usa modelos y datos para generar respuestas a cualquier tipo de pregunta, también, y gracias a su tesis doctoral en filosofía, entiende los límites que todo, por magnífico que sea, debe tener.

Para no resumir el texto en una página, que es lo que hace la mayoría de los prólogos de los libros, decidí ejemplificar su contenido con una anécdota reciente que, creo, da luces de lo que uno se podrá encontrar en el interior de sus páginas.

Una joven de no más de 30 años trataba de vender un agente virtual, una IA capaz de resolver complicados procesos jurídicos gracias a la capacidad que tenía no solo de auscultar gran cantidad de datos en la red en tiempo real, sino también de generar un texto final con alegatos totalmente acertados y apegados a la ley. Maravillada con su discurso, al final solo atinó a decir: “¿Saben algo?, la IA llegó para cambiarlo todo, pues su único límite es el cielo”. Absorto y sin pensarlo, automáticamente levanté la mano y, antes de que me diera la palabra, solo pude decir: “Yo disiento de eso”. El público y la joven quedaron en silencio. Luego continué diciendo: “El límite para todo, incluso para la IA, no es el cielo, es la ética”. De forma cruda, he de confesar, terminé diciendo: “La ética, esa disciplina en desuso, difícil de definir para muchos, casi imposible de aplicar para la gran mayoría de las personas por estos días”.

Este episodio, que no pasó a mayores, me dio pie para reflexionar sobre el intimidante título del libro que estaba prologando: Algoritmos deshumanizantes. Esa disyuntiva moderna nos pone frente a frente con la elección de uno de dos caminos: el primero, marcado por un tecno-destructivismo que, guiado por el ego y el ímpetu humano, invita a seguir sin advertir riesgos con la tarea de demostrar que el hombre lo puede hacer todo; o el segundo, uno tecno-positivista que, motivado por la prudencia aristotélica, invita a hacer lo que se debe hacer, poniendo límites y pensando en comunidad.

Al final, el trabajo de Santiago es una invitación a confrontar esta encrucijada. El libro es una reflexión necesaria sobre el papel de la ética en un mundo de algoritmos, recordándonos que el verdadero desafío no es la capacidad técnica, sino la capacidad moral para guiarla. El límite de la IA no es el cielo, sino la conciencia humana y los valores que decidimos infundir en ella. La ética debe ser nuestra brújula, asegurando que el progreso tecnológico sirva para engrandecer y no para deshumanizar, construyendo un futuro donde la tecnología sea una extensión de nuestra mejor versión, y no la causa de nuestra desaparición.