Vivimos en una era orwelliana: manipulación, IA y desinformación
Vivimos en una era orwelliana: manipulación y desinformación

George Orwell es conocido por libros como "Rebelión en la granja" y "1984". En la actualidad, regímenes totalitarios, vigilancia extrema, grandes hermanos, fascismos, amor ferviente a los partidos políticos, manipulación de la verdad histórica y realidad, neolenguas, policías del pensamiento, control de la información, control social e innumerables acontecimientos reafirman que, en cierta medida, vivimos en una era orwelliana.

La "rectificación" de la historia en 1984

Winston Smith, protagonista de la novela, trabaja en el Ministerio de la Verdad, específicamente en el Departamento de Registros. Su labor consiste en modificar documentos antiguos, como periódicos, informes y toda clase de registros históricos, con el fin de que coincidan con la versión oficial del Partido del Gran Hermano. Esta labor de alteración de la verdad histórica recibe el nombre de "rectificación". El Ministerio de la Verdad, al igual que todos los ministerios de la novela, tiene el propósito de ejecutar justamente lo contrario de lo que su nombre indica. En este caso, se dedica a mentir y falsificar la realidad histórica. Como afirma uno de los lemas del Partido: "Quien controla el pasado controla el futuro; quien controla el presente controla el pasado".

La neolengua como herramienta de control

Para que estas "rectificaciones" sean efectivas y creíbles, el ministerio se apoya en la neolengua, un lenguaje artificial diseñado para influir en la percepción de la realidad. Su principal objetivo es reducir el pensamiento complejo para que el individuo sea incapaz de cuestionar al Partido, crear confusión entre lo verdadero y lo falso y lograr que la sociedad acepte las nuevas ideas impuestas por el régimen. Moldear la mente para controlar el pensamiento y la expresión es la gran estrategia utilizada por el Gran Hermano para socavar y debilitar la capacidad de análisis y crítica de los individuos. Gran parte de 1984 está inspirada en el régimen de la Unión Soviética bajo el liderazgo de Stalin, donde el culto a la personalidad y la manipulación informativa eran herramientas necesarias para reprimir e influir en la población.

Banner ancho de Pickt — app de listas de compras colaborativas para Telegram

La manipulación informativa en la actualidad

Cualquier parecido con la realidad no es mera coincidencia. En la actualidad, numerosos medios de comunicación son utilizados para alterar la veracidad de los hechos con el fin de conseguir beneficios sin importar el daño. En nuestros días, la información se manipula con el fin de beneficiar a unos y perjudicar a otros. En las redes sociales, la competencia por los "me gusta" obliga a muchos comunicadores a alterar o tergiversar la verdad, sin considerar las implicaciones éticas ni sus consecuencias. Pero en el submundo de la "rectificación", influencers, youtubers, instagramers y tiktokers libran una batalla constante en la que, muchas veces, desinforman más de lo que informan. Como si hubieran salido de las páginas de 1984, numerosos consumidores de contenido no analizan ni verifican la información que reciben y terminan entregando su atención y su tiempo al entretenimiento antes que a la búsqueda de la verdad.

La tergiversación de la realidad mediante la IA

En la guerra digital del "me gusta" o el "me encanta", la realidad de los hechos se altera y se mercantiliza a cualquier precio. Sin embargo, a esta tormenta de desinformación se suma otra problemática de enormes proporciones: la inteligencia artificial. Generadores de contenido y ciberdelincuentes aprovechan herramientas de manipulación algorítmica, conocidas como deepfakes, para producir videos falsos con la finalidad de dañar o enaltecer la reputación de un líder, un partido, o cualquier persona, simplemente con suplantar su identidad. En internet circulan videos en los que se ha modificado la realidad histórica, perjudicando a las nuevas generaciones que pueden llegar a asumir estas representaciones falsas como auténticas.

Muchos de estos contenidos generan beneficios económicos para quienes los producen. Por medio de la inteligencia artificial se falsifican voces para cometer estafas, se crean cuentas con perfiles falsos para influir en mercados y se impulsan campañas de propaganda política. Todos estos fenómenos confirman muchas de las advertencias planteadas por George Orwell.

Banner post-artículo de Pickt — app de listas de compras colaborativas con ilustración familiar

La necesidad de verificar la información

Por ello, en una sociedad cada vez más tecnodependiente, resulta fundamental no aceptar verdades impuestas sin antes corroborar la información, investigar y verificar las fuentes, y otorgar credibilidad únicamente a los hechos que puedan contrastarse con datos y pruebas verificables, de lo contrario, corremos el riesgo de convertirnos en participantes involuntarios de la misma maquinaria de desinformación que Orwell imaginó en 1984.

Por Alberto Cortés de los Reyes