La mayoría de las juntas directivas omiten un paso crucial cuando el CEO o el CTO presenta una propuesta de inteligencia artificial (IA). La conversación se centra en preguntas familiares como: ¿Tiene retorno de inversión (ROI)? ¿Es factible? ¿La aprobamos? La discusión es competente y se consideran los riesgos. Sin embargo, en ese mismo movimiento, la junta directiva se salta la pregunta que debió responder primero.
La pregunta constitucional previa
La pregunta previa no es si esta propuesta específica es aceptable, sino bajo qué reglas cualquier propuesta de IA es aceptable. Es la pregunta constitucional, no la operativa. Define el espacio dentro del cual la administración puede proponer y fuera del cual ninguna propuesta, por rentable que sea, debería entrar a discusión. Aprobar este marco no es un ejercicio de eficiencia organizacional, sino la función fiduciaria en su sentido estricto.
La función indelegable de la junta directiva
La junta directiva declara qué tipo de empresa quiere ser en relación con una tecnología que ya opera dentro de ella, define qué riesgos acepta correr y cuáles no, y establece los principios bajo los cuales delega autoridad. Esta tarea es indelegable, no por ego corporativo, sino porque sin ese acto previo la administración no puede operar y los riesgos quedan sin dueño. Tres ejemplos ilustran qué significa tener un marco en concreto.
Definir una postura
Una empresa puede decidir ser IA-first, IA-enabled o IA-cautious (IA por defecto, con salvaguardas o con cautela). Las tres son posiciones legítimas. Lo ilegítimo es no haber decidido y dejar que cada propuesta arrastre implícitamente una postura distinta. La postura incluye los valores no negociables de la empresa: qué no se sacrifica por eficiencia y qué principios sobreviven incluso a la urgencia comercial. Una propuesta rentable que erosione la postura se rechaza. Eso es lo que significa tener postura, en contraposición a tener proyectos.
Definir responsabilidad
Cuando un algoritmo despide a un trabajador, alguien firma la carta. Cuando un sistema de pricing causa pérdidas materiales, alguien responde. La pregunta es si esos roles están definidos antes de que la carta o las pérdidas sean necesarias. Zillow Offers cerró su división de iBuying en noviembre de 2021 después de que su algoritmo de pricing causara pérdidas superiores a US$400 millones. El CEO escribió que la imprevisibilidad del modelo era “mayor de lo que habíamos asumido”. Lo que en realidad faltaba era el mecanismo previo que definiera quién, con qué información y con qué autoridad podía detener el sistema cuando los indicadores empezaran a moverse.
Definir una taxonomía de riesgo y delegación
Qué decisiones puede tomar un algoritmo solo y cuáles nunca se delegan. Aquí la empresa traza sus líneas rojas: posicionamiento estratégico, decisiones que afectan irrevocablemente a personas y gestión de crisis. Son decisiones donde la sofisticación del modelo es irrelevante: no se delegan porque definen quién es la empresa, no qué hace.
Cinco dimensiones adicionales
A estas tres dimensiones se suman otras cinco que la junta directiva prudente aprueba en el mismo acto: la política sobre datos y propiedad intelectual con que se entrenan y operan los modelos; los estándares de transparencia hacia clientes, empleados y reguladores; los mecanismos de resiliencia para detectar fallas antes de que el daño sea material; el seguimiento del cumplimiento regulatorio en cada jurisdicción donde opera la empresa; y la gestión del impacto humano y social que la adopción de IA produce sobre los trabajadores y las comunidades.
El cambio en la conversación
Cuando una propuesta de IA llega con este marco aprobado, la conversación cambia. Ya no se discute si la propuesta es interesante. Se verifica si es coherente con la arquitectura. Una propuesta que no cumple alguna dimensión no se aprueba con condiciones: se rechaza o se devuelve a la administración para que la rehaga. Esa es la diferencia entre evaluar y gobernar. Y es, quizás, lo único que una junta directiva, en los próximos dos años, va a poder hacer consistentemente mejor que cualquier algoritmo.
