La junta directiva frente a la inteligencia artificial: gobernar antes de evaluar

Hay un paso que la mayoría de las juntas directivas se salta, casi sin notarlo. Cuando el CEO o el CTO trae una propuesta de inteligencia artificial a la junta directiva, la conversación se concentra en una pregunta familiar: ¿Tiene ROI?, ¿es factible?, ¿la aprobamos? La discusión es competente. Se pregunta por riesgos. La aprobación, si llega, es razonada. Y, en ese mismo movimiento, la junta directiva acaba de saltarse la pregunta que debió responder antes.

La pregunta previa no es si esta propuesta específica es aceptable. Es bajo qué reglas cualquier propuesta de IA es aceptable. Es la pregunta constitucional, no la operativa. Define el espacio dentro del cual la administración puede proponer y fuera del cual ninguna propuesta, por rentable que sea, debería entrar a discusión.

Aprobar este marco no es un ejercicio de eficiencia organizacional. Es la función fiduciaria en su sentido estricto. La junta directiva declara qué tipo de empresa quiere ser en relación con una tecnología que ya está operando dentro de ella, define qué riesgos acepta correr y cuáles no, y establece los principios bajo los cuales delega autoridad. Esta tarea es indelegable, no por una cuestión de ego corporativo, sino porque sin ese acto previo la administración no puede operar y los riesgos quedan sin dueño.

Tres ejemplos ilustran qué significa, en concreto, tener un marco.

Lo primero es definir una postura. Una empresa puede decidir ser IA-first, IA-enabled o IA-cautious (IA por defecto, con salvaguardas o con cautela). Las tres son posiciones legítimas. Lo ilegítimo es no haber decidido y dejar que cada propuesta arrastre, implícitamente, una postura distinta. La postura incluye los valores no negociables de la empresa: qué no se sacrifica por eficiencia y qué principios sobreviven incluso a la urgencia comercial. Una propuesta rentable que erosione la postura se rechaza. Eso es lo que significa tener postura, en contraposición a tener proyectos.

Lo segundo es definir responsabilidad (accountability). Cuando un algoritmo despide a un trabajador, alguien firma la carta. Cuando un sistema de pricing causa pérdidas materiales, alguien responde. La pregunta es si esos roles están definidos antes de que la carta o las pérdidas sean necesarias. Zillow Offers cerró su división de iBuying en noviembre de 2021 después de que su algoritmo de pricing causara pérdidas superiores a US$400 millones. El CEO escribió que la imprevisibilidad del modelo era “mayor de lo que habíamos asumido”. Lo que en realidad faltaba era el mecanismo previo que definiera quién, con qué información y con qué autoridad, podía detener el sistema cuando los indicadores empezaran a moverse.

Lo tercero es definir una taxonomía de riesgo y delegación: qué decisiones puede tomar un algoritmo solo y cuáles nunca se delegan. Aquí la empresa traza sus líneas rojas. Posicionamiento estratégico, decisiones que afectan irrevocablemente a personas y gestión de crisis. Son decisiones donde la sofisticación del modelo es irrelevante: no se delegan porque definen quién es la empresa, no qué hace.

A estas tres dimensiones se suman otras cinco que la junta directiva prudente aprueba en el mismo acto: la política sobre datos y propiedad intelectual con que se entrenan y operan los modelos; los estándares de transparencia hacia clientes, empleados y reguladores; los mecanismos de resiliencia para detectar fallas antes de que el daño sea material; el seguimiento del cumplimiento regulatorio en cada jurisdicción donde opera la empresa; y la gestión del impacto humano y social que la adopción de IA produce sobre los trabajadores y las comunidades.

Cuando una propuesta de IA llega con este marco aprobado, la conversación cambia. Ya no se discute si la propuesta es interesante. Se verifica si es coherente con la arquitectura. Una propuesta que no cumple alguna dimensión no se aprueba con condiciones: se rechaza o se devuelve a la administración para que la rehaga.

Esa es la diferencia entre evaluar y gobernar. Y es, quizás, lo único que una junta directiva, en los próximos dos años, va a poder hacer consistentemente mejor que cualquier algoritmo.