Mientras la inteligencia artificial (IA) sigue siendo tema de debate, las compañías que desarrollan estos modelos enfrentan problemas que la tecnología o la ingeniería por sí solas no pueden resolver. Para abordar desafíos de seguridad y regulación de contenidos, están recurriendo a una disciplina milenaria: la filosofía.
Filósofos en el mundo de la IA
Según un reporte de New Scientist, las empresas de IA están contratando cada vez más doctores en filosofía. Su labor consiste en hacer que los modelos sean más confiables y capaces, además de aportar conocimientos sobre la conciencia y si la inteligencia puede replicarse exclusivamente mediante software. Los filósofos también trabajan en preguntas como “¿qué hacen las mentes?, ¿qué hacen los cerebros? y ¿qué de esos procesos podría replicarse?”. Asimismo, ayudan a disminuir las “alucinaciones” de las IA y a definir si esta tecnología muestra capacidades de sentir.
Un valor inesperado para la filosofía
“Temas que se han investigado en los departamentos de filosofía durante décadas —cómo tomar decisiones racionales, cómo sistematizar los principios morales, qué se considera pensamiento, razonamiento o introspección, qué se considera evidencia de consciencia— de repente tienen un valor inmenso para las empresas de IA”, afirmó Jonathan Birch, de la London School of Economics and Political Science. “Por lo tanto, naturalmente, estamos presenciando una enorme fuga de cerebros”.
Seguridad y regulación de contenidos
Una de las tareas más desafiantes para los filósofos es ayudar a que los modelos sean más seguros y no revelen contenido o instrucciones peligrosas, como cómo crear una bomba. “A los estudiantes de filosofía se les enseña razonamiento inferencial y lógica, lo cual puede ser útil para desarrollar cadenas de pensamiento más largas. Pero el verdadero desafío radica en encontrar la manera de crear modelos de IA más seguros. Y esto se ha convertido en una prioridad a medida que estos modelos se vuelven mucho más potentes”, señaló Benjamin Sutherland, reportero de The Economist para NPR.
Parte del problema es que en el pasado se establecieron reglas mediante medios informáticos, pero fueron fáciles de evadir. Según New Scientist, una vez que se pedía a una IA que rompiera una regla para una situación específica, el modelo extrapolaba esa instrucción a otros casos. La filosofía podría ayudar a responder “¿por qué sucede esto?”.
Ética y escuelas de pensamiento
“Como especialista en ética, una forma de entender lo que hacemos es intentar definir la forma y el alcance de conceptos como lo correcto y lo incorrecto, o lo bueno y lo malo, e intentar determinar qué cosas entran dentro de ellos, tanto en el uso común como conceptualmente, y ese parece ser precisamente el tipo de análisis que realiza el programa”, explicó Shane Glackin a New Scientist.
Sutherland considera que diferentes escuelas de pensamiento podrían influir en los modelos de IA. Por ejemplo, cree que modelos como Claude de Anthropic se inclinan por una corriente deontológica, mientras que otros podrían adoptar el consecuencialismo. Sin embargo, debido a la presión de gobiernos por regular la IA, la corriente deontológica podría imponerse.
Oportunidades y riesgos
Mientras algunos ven estas contrataciones como un cambio positivo, otros opinan que las habilidades de los filósofos podrían aprovecharse mejor ayudando a los ingenieros a entender lo que sucede dentro de los modelos. Birch advirtió a New Scientist que esta tendencia podría ser negativa por posibles conflictos de interés: “De forma explícita o implícita, las empresas tienen expectativas que desean que se cumplan y tienen el poder de favorecer a los autores que presentan argumentos e ideas que les resultan interesantes. Ojalá hubiéramos avanzado más en las grandes cuestiones de la filosofía —sobre la conciencia, la capacidad de decisión, la moralidad, etc.— antes de la llegada de la IA. De haberlo hecho, habríamos estado mejor preparados. La IA ha conferido ahora una enorme urgencia a estas cuestiones, y aun así, las respuestas todavía parecen lejanas”.
