Fake news y deep fakes, echo chambers, machine learning, social media. Nuevas herramientas, nuevos canales, nuevas oportunidades pero, al mismo tiempo, nuevas “patologías” y trampas, especialmente para el campo de la comunicación, que corre el riesgo de acabar sometido a la “contaminación cognitiva”, es decir, a la alteración de la realidad a través de narraciones falsas, mensajes de voz falsos y fotografías falsas (incluso el Papa ha sido objeto de esto), o a la anulación del valioso papel de los reporteros sobre el terreno, especialmente en escenarios de guerra.

El Papa Francisco vuelve a reflexionar sobre la IA en su Mensaje sobre el tema Inteligencia artificial y sabiduría del corazón: por una comunicación plenamente humana que firmó en San Juan de Letrán el 24 de enero, fiesta de San Francisco de Sales, patrono de los periodistas. El Pontífice mira con admiración y preocupación la evolución de los sistemas que están “modificando radicalmente incluso la información y la comunicación” y, “algunos de los fundamentos de la convivencia civil”.

“Es un cambio que afecta a todos, no sólo a los profesionales”

La importancia de los reporteros
El Papa reflexiona en particular sobre el mundo del periodismo, la información sobre las guerras y esa “guerra paralela” a través de las campañas de desinformación. “Cuántos reporteros son heridos o mueren sobre el terreno para permitirnos ver lo que han visto sus ojos”, escribe Francisco, “sólo tocando con las manos el sufrimiento de niños, mujeres y hombres, se puede comprender lo absurdo de las guerras.”

El Papa reflexiona en particular sobre el mundo del periodismo, la información sobre las guerras y esa “guerra paralela” a través de las campañas de desinformación. “Cuántos reporteros son heridos o mueren sobre el terreno para permitirnos ver lo que han visto sus ojos”, escribe Francisco, “sólo tocando con las manos el sufrimiento de niños, mujeres y hombres, se puede comprender lo absurdo de las guerras.”

“El uso de la inteligencia artificial podrá contribuir positivamente en el campo de la comunicación si no anula el papel del periodismo sobre el terreno, sino que, por el contrario, lo respalda; si aumenta la profesionalidad de la comunicación, responsabilizando a cada comunicador; si devuelve a cada ser humano el papel de sujeto, con capacidad crítica, respecto de la misma comunicación”

No endurecerse ante lo nuevo, sino permanecer sensibles a lo que no es humano
Ante la acelerada difusión de “inventos maravillosos” que suscitan “un asombro que oscila entre el entusiasmo y la desorientación”, el Papa invita a preguntarse: “¿Cómo permanecer plenamente humanos y orientar hacia el bien el cambio cultural en curso?”.

Mientras tanto, “hay que despejar el terreno de lecturas catastrofistas y de sus efectos paralizantes”; por tanto, como dice Romano Guardini, “no hay que endurecerse contra lo ‘nuevo’ para intentar preservar un mundo bello condenado a desaparecer”. Al mismo tiempo, sin embargo, hay que permanecer “sensibles” a todo lo que es “destructivo” y “no humano”. Es decir, hay que recomenzar desde el corazón “en esta época que corre el riesgo de ser rica en tecnología y pobre en humanidad”. Necesitamos sabiduría, prosigue Francisco, y no podemos exigírsela a las máquinas.

“No se trata, pues, de exigir que las máquinas parezcan humanas; sino más bien de despertar al hombre de la hipnosis en la que ha caído debido a su delirio de omnipotencia, creyéndose un sujeto totalmente autónomo y autorreferencial, separado de todo vínculo social y ajeno a su creaturalidad”

El peligro de las fake news
Es una antigua tentación del hombre “llegar a ser como Dios sin Dios”. Y “toda extensión técnica del hombre puede ser instrumento de servicio amoroso o de dominación hostil”, subraya el Papa.

“Los sistemas de inteligencia artificial pueden contribuir al proceso de liberación de la ignorancia y facilitar el intercambio de información entre pueblos y generaciones diferentes”

Pero también pueden ser instrumentos de “contaminación cognitiva”, es decir, aquellas fake news que se sirven del deep fake, de la “creación” y “difusión de imágenes que parecen perfectamente verosímiles pero que son falsas (a mí también me ha pasado)”, o de “mensajes de audio que utilizan la voz de una persona diciendo cosas que esa misma persona nunca ha dicho”. La simulación en su base “se vuelve perversa cuando distorsiona la relación con los demás y con la realidad”, advierte el Pontífice.

Oportunidades y riesgos de los social
El Papa también se detiene en las redes sociales, que son “herramientas que en las manos equivocadas podrían abrir escenarios negativos”. “Como todo lo que ha salido de la mente y de las manos del hombre, también los algoritmos no son neutros”, señala Francisco, y pide una “acción preventiva”, proponiendo modelos de regulación ética. El llamamiento se dirige de nuevo a la comunidad internacional para que formule “un tratado internacional vinculante que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas”.

“Grandes posibilidades de bien acompañan al riesgo de que todo se transforme en un cálculo abstracto, que reduzca las personas a meros datos, el pensamiento a un esquema, la experiencia a un caso, el bien a un beneficio, y sobre todo que acabemos negando la unicidad de cada persona y de su historia, disolviendo la concreción de la realidad en una serie de estadísticas”

“La revolución digital puede hacernos más libres”, añade el Pontífice, subrayando que, sin embargo, “no es aceptable que el uso de la inteligencia artificial conduzca a un pensamiento anónimo, a un ensamblaje de datos no certificados, a una irresponsabilidad editorial colectiva”. La representación de la realidad en big data corre el riesgo de “dañar nuestra misma humanidad”.

Preguntas cruciales
De ahí una serie de preguntas para reflexionar sobre el presente y el futuro, punto central de todo el Mensaje pontificio:

¿Cómo proteger la profesionalidad y la dignidad de los trabajadores del ámbito de la comunicación y la información, junto con la de los usuarios de todo el mundo? ¿Cómo garantizar la interoperabilidad de las plataformas? ¿Cómo garantizar que las empresas que desarrollan plataformas digitales asuman la responsabilidad de lo que difunden y de lo cual obtienen beneficios, del mismo modo que los editores de los medios de comunicación tradicionales? ¿Cómo hacer más transparentes los criterios en los que se basan los algoritmos de indexación y desindexación y los motores de búsqueda, capaces de exaltar o cancelar personas y opiniones, historias y culturas?

Una vez más, el Papa pregunta:

¿Cómo garantizar la transparencia de los procesos de información? ¿Cómo hacer evidente la autoría de los escritos y rastreables las fuentes, evitando el manto del anonimato? ¿Cómo poner de manifiesto si una imagen o un vídeo retratan un acontecimiento o lo simulan? ¿Cómo evitar que las fuentes se reduzcan a un pensamiento único, elaborado algorítmicamente? ¿Y cómo fomentar, en cambio, un entorno que preserve el pluralismo y represente la complejidad de la realidad? ¿Cómo hacer sostenible esta herramienta potente, costosa y de alto consumo energético? ¿Cómo hacerla accesible también a los países en desarrollo?

Nuevas esclavitudes y conquistas de la libertad
A partir de las respuestas a estas preguntas, “entenderemos si la inteligencia artificial acabará construyendo nuevas castas basadas en el dominio de la información, generando nuevas formas de explotación y desigualdad” o, insiste Francisco, si “traerá más igualdad”, promoviendo una información correcta y una mayor conciencia del paso del tiempo.

“Por una parte, se cierne el espectro de una nueva esclavitud, por la otra, una conquista de la libertad; por un lado, la posibilidad de que unos pocos condicionen el pensamiento de todos, por otro, la posibilidad de que todos participen en la elaboración del pensamiento”

La respuesta no está escrita, depende de nosotros: “Depende del hombre decidir si se convierte en alimento de algoritmos o si alimenta su corazón con libertad”.

Fuente: Vatican News
Foto: Cash Macanaya en Unsplash
Ciudad del Vaticano, 24-01-2024