La pendiente resbaladiza del uso de IA y deepfakes para dar vida a la historia

Para conmemorar el Día de los Caídos de Israel en 2021, los conjuntos musicales de las Fuerzas de Defensa de Israel han colaborado con una empresa especializada en videos sintéticos, también conocida como tecnología «deepfake», para dar vida a las fotos de la guerra 1948 árabe-israelí.

Produjeron un video en el que jóvenes cantantes vestidos con uniformes de época y portando armas de época cantaron «Hareut», una canción icónica que conmemora a los soldados muertos en acción. Mientras cantan, los músicos se ven desvanecidos en blanco y negro fotografías que sostienen. Los jóvenes soldados de las fotografías antiguas parpadean y les sonríen gracias a la inteligencia artificial.

El resultado es inquietante. El pasado cobra vida, al estilo de Harry Potter.

Au cours des dernières années, mes collègues et moi-même du Centre d’éthique appliquée de l’UMass Boston avons étudié comment l’engagement quotidien avec l’IA remet en question la façon dont les gens pensent d’eux-mêmes et de la politica. Hemos descubierto que la IA tiene el potencial de debilitar la capacidad de las personas para emitir juicios ordinarios. También hemos descubierto que socava el papel de la casualidad en sus vidas y puede hacer que se cuestionen lo que saben o creen sobre los derechos humanos.

Ahora, la IA hace que sea más fácil que nunca resucitar el pasado. ¿Cambiará nuestra comprensión de la historia y, por tanto, de nosotros mismos?

Bajo riesgo financiero, alto costo moral

El deseo de dar vida al pasado de una manera vívida no es nuevo. Las recreaciones de la guerra civil o la guerra revolucionaria son comunes. En 2018, Peter Jackson restauró minuciosamente y coloreó imágenes de la Primera Guerra Mundial para crear «They Shall Not Grow Old», una película que llevó a los espectadores del siglo XXI a experimentar la Gran Guerra más inmediatamente que nunca.

Las recreaciones en vivo y el metraje histórico cuidadosamente procesado son esfuerzos costosos y que requieren mucho tiempo. La tecnología Deepfake democratiza estos esfuerzos, proporcionando una herramienta barata y ampliamente disponible para animar fotos antiguas o crear videos falsos atractivos desde cero.

Pero como ocurre con todas las nuevas tecnologías, junto con las interesantes posibilidades, existen serias cuestiones morales. Y las preguntas se vuelven aún más delicadas cuando estas nuevas herramientas se utilizan para mejorar la comprensión del pasado y revivir episodios históricos.

El escritor y estadista del siglo XVIII Edmund Burke argumentó que la sociedad es una «asociación no solo entre los que viven, sino entre los que viven, los que están muertos y los que van a nacer». La identidad política, dice, no es solo lo que la gente hace con ella. No es solo un producto de nuestra propia creación. Más bien, ser parte de una comunidad es ser parte de un pacto entre generaciones, parte de un esfuerzo común que une a los vivos, los muertos y los que vivirán en el futuro.

Si Burke tiene razón al entender la afiliación política de esta manera, la tecnología deepfake ofrece una forma poderosa de conectar a las personas con el pasado, para forjar ese contrato intergeneracional. Al dar vida al pasado de manera vívida y convincente, la tecnología anima el pasado «muerto» y lo hace más vivo y vivo. Si bien estas imágenes estimulan la empatía y la preocupación por los antepasados, los deepfakes pueden hacer que el pasado sea mucho más importante.

Pero esta habilidad conlleva riesgos. Un peligro evidente es la creación de episodios históricos falsos. Eventos imaginarios, míticos y falsos pueden precipitar guerras: una derrota histórica en el siglo XIV en la batalla por Kosovo todavía enciende los sentimientos antimusulmanes serbios, aunque nadie sabe si la coalición serbia realmente perdió esta batalla contra los otomanos.

Asimismo, el segundo ataque del Golfo de Tonkin a buques de guerra estadounidenses el 4 de agosto de 1964 se utilizó para intensificar la participación de Estados Unidos en Vietnam. Más tarde resultó que el ataque nunca tuvo lugar.

Una atrofia de la imaginación

Solía ​​ser difícil y costoso organizar eventos falsos. Ahora ya no.

Imagine, por ejemplo, lo que podrían hacer las imágenes falsas manipuladas estratégicamente de los eventos del 6 de enero en los Estados Unidos para encender las tensiones políticas o lo que haría público un video falso de una reunión de los Centros para el Control y la Prevención de Enfermedades que aparenta denigrar las vacunas COVID-19. esfuerzos de salud.

El resultado, por supuesto, es que los deepfakes pueden desestabilizar gradualmente la idea misma de un «evento» histórico. Quizás con el tiempo, a medida que esta tecnología avanza y se vuelve omnipresente, la gente se preguntará automáticamente si lo que están viendo es real.

Si esto conducirá a una mayor inestabilidad política o, paradójicamente, a una mayor estabilidad debido a la renuencia a actuar sobre la base de lo que tal vez sean hechos fabricados, es cuestionable.

Pero más allá de las preocupaciones sobre la fabricación masiva de la historia, hay consecuencias más sutiles que me preocupan.

Sí, los deepfakes nos permiten experimentar el pasado como más vivo y, por lo tanto, pueden aumentar nuestro sentido de compromiso con la historia. Pero, ¿este uso de la tecnología conlleva el riesgo de atrofiar nuestra imaginación, proporcionándonos imágenes limitadas y listas para usar del pasado que servirán como asociaciones estándar para eventos históricos? Cualquier esfuerzo de la imaginación puede representar los horrores de la Segunda Guerra Mundial, el terremoto de San Francisco de 1906 o la Conferencia de Paz de París de 1919 en infinitas variaciones.

Pero, ¿continuará la gente ejercitando su imaginación de esta manera? ¿O los deepfakes, con sus representaciones realistas y conmovedoras, se convertirán en los reemplazos prácticos de la historia? Me preocupa que las versiones animadas del pasado puedan hacer que los espectadores sientan que saben exactamente lo que sucedió, que el pasado está completamente presente para ellos, lo que evitará la necesidad de saber más sobre el evento histórico del pasado.

La gente tiende a pensar que la tecnología facilita la vida. Pero no se dan cuenta de que sus herramientas tecnológicas siempre están remodelando a los fabricantes de herramientas, lo que hace que las habilidades existentes se deterioren incluso cuando abren posibilidades inimaginables y emocionantes.

La llegada de los teléfonos inteligentes ha facilitado la publicación de fotos en línea. Pero también significa que algunas personas no disfrutan de las vistas asombrosas como solían hacerlo, porque están tan obsesionadas con capturar un momento ‘Instagrammable’. La pérdida tampoco se experimenta de la misma manera desde la omnipresencia del GPS. Del mismo modo, los deepfakes generados por IA no son solo herramientas que mejorarán automáticamente nuestra comprensión del pasado.

No obstante, esta tecnología pronto revolucionará la conexión de la sociedad con la historia, para bien o para mal.

La gente siempre ha sido mejor inventando cosas que pensando en lo que les hacen las cosas que inventan: «siempre más hábiles con los objetos que con las vidas», como dijo el poeta WH Auden. Esta incapacidad para imaginar la parte inferior de la destreza técnica no es el destino. Todavía es posible reducir la velocidad y pensar en la mejor manera de lidiar con el pasado.

Este artículo de Nir Eisikovits, profesor asociado de filosofía y director del Centro de Ética Aplicada de la Universidad de Massachusetts Boston se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.