Cuando el algoritmo despide, ¿quién firma la carta?

Un colaborador con veinte años en la compañía recibe su carta de despido por correo electrónico. El mensaje es impersonal, pero técnicamente correcto. Cuando pide una reunión para entender las razones, le explican que la decisión provino de un sistema de evaluación de desempeño asistido por inteligencia artificial, que su puntaje quedó bajo el umbral y que no admite revisión humana. Pregunta entonces lo que cualquiera preguntaría: ¿quién es responsable de esto?

La empresa no tiene una buena respuesta. La junta directiva, si supiera del caso, tampoco.

No es una hipótesis. En 2023 la Equal Employment Opportunity Commission de Estados Unidos cerró su primer acuerdo público por discriminación algorítmica: iTutorGroup había configurado su sistema para descartar automáticamente a mujeres mayores de 55 años y hombres mayores de 60. Más de doscientos aspirantes calificados quedaron fuera antes de cualquier mirada humana. El acuerdo costó US$365.000. La doctrina que dejó instalada es mucho más cara.

El caso que hoy conviene seguir es Mobley contra Workday, en cortes federales de California. Allí ya no se discute si el algoritmo discrimina, sino quién responde cuando lo hace. El tribunal aceptó que un proveedor cuyo sistema filtra candidatos por cuenta del empleador puede ser tratado como su agente, y durante 2026 ha ampliado el alcance del caso a discriminación por edad, raza, sexo y discapacidad. El precedente en formación es simple: ni el cliente puede decir “es problema del proveedor”, ni el proveedor puede decir “yo solo vendo software”.

Cuando un algoritmo despide hay tres candidatos a firmar la carta. Gestión Humana, que ejecuta la decisión sin haberla tomado en sustancia. El proveedor del software, que entrega la plataforma pero no elige a quién desvincular. Y la junta directiva, que aprobó -o más frecuentemente no objetó- la adopción del sistema. Los tres se miran. Ninguno quiere firmar.

Quien crea que Colombia vive un vacío normativo no ha leído lo que ya está escrito. La Corte Constitucional, en la sentencia T-323 de 2024, sostuvo que la inteligencia artificial no puede sustituir el razonamiento humano y fijó criterios de transparencia, control humano, no discriminación y responsabilidad. El fallo trata sobre el uso de IA por jueces, pero la gramática constitucional quedó instalada. La Circular Externa 002 de 2024 de la Superintendencia de Industria y Comercio va directo al mundo empresarial: cualquier administrador de datos que desarrolle, despliegue o use sistemas de IA debe operar bajo responsabilidad demostrada, privacidad desde el diseño y evaluación de riesgos. Súmense el Conpes 4144 de 2025 y los proyectos de ley que cursan en el Congreso, y el mensaje es inequívoco.

Hay un punto que las juntas suelen pasar por alto: el deber de diligencia del buen hombre de negocios que la Ley 222 de 1995 impone a los administradores no admite la excusa de que la decisión la tomó una máquina. La ausencia de regulación específica no es ausencia de responsabilidad. Es apenas demora en su materialización.

Antes de aprobar, o de tolerar, el uso de IA en decisiones que afectan a personas, una junta directiva debería poder responder cinco preguntas sin titubear. Quién es, con nombre y apellido, el ser humano responsable de cada decisión asistida por algoritmos: si la respuesta es “el sistema”, el sistema no debería estar tomando esa decisión. Si hay revisión humana significativa y no apenas nominal: alguien que pueda revertir al algoritmo y tenga información, tiempo y autoridad para hacerlo. Si el sesgo se audita con rigor y por un tercero independiente del proveedor. Si se notifica a los afectados. Y qué dice el contrato con el proveedor sobre responsabilidad por daños derivados de decisiones algorítmicas.

La gobernanza de la IA, despojada de su jerga, se reduce a una pregunta: quién firma la carta.