En la mitología griega, Talos era un autómata de bronce que protegía Creta de piratas e invasores. Creado por Hefesto y entregado al rey Minos, daba tres vueltas diarias a la isla, lanzando rocas contra barcos enemigos. Su única debilidad era una vena que transportaba icor, el fluido vital divino. Al igual que los sistemas avanzados de hoy, su invencibilidad era solo aparente. Cuando el Argo, con Jasón y sus héroes, llegó a Creta, la princesa Medea encantó a Talos y removió el tapón de su tobillo, causándole la muerte.
La debilidad intrínseca de la inteligencia artificial
Así como Talos, los impresionantes servicios de inteligencia artificial que ahora forman parte de la vida cotidiana nacieron con una debilidad intrínseca. Los modelos de lenguaje que impulsan programas como ChatGPT, Gemini y Claude son capaces de realizar una amplia variedad de tareas y de aparentar inteligencia. Sin embargo, por muy potentes que sean, siguen cometiendo errores y pueden comportarse de manera indeseable.
Fueron entrenados con enormes cantidades de contenido de Internet, lo que les permite proporcionar información problemática y peligrosa. Para reducir ese comportamiento, sus desarrolladores introducen barreras para ajustar las respuestas de los modelos, límites definidos por los humanos que los financian.
La ideología de control detrás de la IA
“El puñado de personas que están difundiendo esta tecnología por todo el mundo se rigen por una ideología de control (sobre la humanidad) y por la convicción de que las máquinas son, sin excepción, mejores que los seres humanos”, escribió recientemente el economista ganador del Premio Nobel Daron Acemoglu.
No es un secreto que los magnates tecnológicos comparten una visión a largo plazo de la humanidad como una especie intergaláctica, en la que los humanos de carne y hueso no somos más que un incómodo paso intermedio. Mientras los líderes de opinión apenas despiertan a los riesgos de la IA en campañas electorales, un riesgo mayor se cierne sobre la estabilidad de las naciones: la orientación de recursos para desarrollar sistemas aún más poderosos para moldear el futuro, a costa de la sanidad, la educación y el bienestar de los humanos de hoy.
Reflexión sobre nuestro papel
Aún no he podido decidir si somos Talos, engañados con promesas de inmortalidad, o los cretenses, dormidos bajo el abrigo de una herramienta falible. Quizás somos ambos, viviendo en tiempos de cambio e ignorantes de las sorpresas que nos depara el futuro cercano.
Por Juan Diego Soler, doctor en Astronomía y Astrofísica de la Universidad de Toronto, investigador científico del Departamento de Astronomía de la Universidad de Viena, autor de los libros “Relatos del confín del mundo (y el universo)” y “Lejos de casa”. Escribe sobre ciencia para El Espectador desde 2011.
