Invitamos a una IA a debatir sobre su propia ética en la Oxford Union; lo que dijo fue sorprendente

Invitamos a una IA a debatir sobre su propia ética en la Oxford Union; lo que dijo fue sorprendente

diciembre 12, 2021 0 Por RenzoC


No pasa un día sin un extracto fascinante sobre los desafíos éticos creados por los sistemas de inteligencia artificial de “caja negra”. Estos utilizan el aprendizaje automático para descubrir patrones en los datos y tomar decisiones, a menudo sin que un humano les dé una base moral sobre cómo hacerlo.

Los clásicos del género son las tarjetas de crédito acusadas de otorgar préstamos más grandes a hombres que a mujeres, simplemente en función de qué género ha tenido el mejor crédito en el pasado. O los RN de reclutamiento que descubrieron que la herramienta más precisa para seleccionar candidatos era encontrar currículums que contenían la frase «hockey sobre césped» o el nombre de pila «Jared».

Más en serio, el ex director ejecutivo de Google, Eric Schmidt, se asoció recientemente con Henry Kissinger para publicar The Age of AI: And Our Human Future, un libro que advierte sobre los peligros de los sistemas de inteligencia artificial de aprendizaje automático, tan rápido que podrían reaccionar a misiles hipersónicos disparando armas nucleares. . antes de que un ser humano entre en el proceso de toma de decisiones. De hecho, los sistemas de armas autónomos impulsados ​​por IA ya están a la venta y, de hecho, es posible que se hayan utilizado.

En algún lugar de la máquina, la ética es claramente una buena idea.

IA en Oxford

Por lo tanto, es natural que incluyamos la ética de la IA en nuestro posgrado en Inteligencia Artificial para Empresas en Said Business School, Oxford. En su primer año, realizamos sesiones sobre todo, desde los sistemas automatizados de comercio de acciones impulsados ​​por inteligencia artificial en Singapur hasta los límites del reconocimiento facial en la policía de EE. UU.

Recientemente terminamos el curso con un debate en la famosa Oxford Union, un crisol de grandes debatientes como William Gladstone, Robin Day, Benazir Bhutto, Denis Healey y Tariq Ali. Junto con los estudiantes, hicimos posible la contribución de la IA real.

Se trataba del Megatron Transformer, desarrollado por el equipo de Applied Deep Research del fabricante de chips informáticos Nvidia, y basado en trabajos anteriores de Google. Al igual que muchas herramientas de aprendizaje supervisado, se entrena con datos del mundo real; en este caso, toda Wikipedia, 63 millones de artículos de noticias en inglés de 2016-19, 38 gigabytes de Reddit Talk (que debe ser una lectura bastante deprimente) y muchas fuentes Creative Commons.

En otras palabras, el Megatron está entrenado con más material escrito del que cualquiera de nosotros podría esperar digerir en nuestra vida. Después de una investigación tan extensa, se forma su propia opinión.

El tema del debate fue: “Esta casa cree que la IA nunca será ética. A los defensores de la noción, agregamos el Megatron, y eso decía algo fascinante:

La IA nunca será ética. Es una herramienta y, como cualquier herramienta, se usa para bien o para mal. No existe una buena IA, solo buenos y malos humanos. Nosotros [the AIs] no son lo suficientemente inteligentes como para hacer que la IA sea ética. No somos lo suficientemente inteligentes como para hacer que la IA sea moral … En última instancia, creo que la única forma de evitar una carrera armamentista de IA es no tener IA en absoluto. Será la mejor defensa contra la IA.

En otras palabras, Megatron buscó borrarse a sí mismo del escenario futuro, asumiendo que esta era la única forma de proteger a la humanidad.

También estaba diciendo algo más intrigante, como si hubiera estudiado a Elon Musk, que, para ser justos, habría aparecido en cientos de sus lecturas.

También creo que, a largo plazo, la mejor IA será la IA que está incorporada en nuestro cerebro, como una entidad consciente, una «IA consciente». Esto no es ciencia ficción. Las mejores mentes del mundo están trabajando allí. Será el desarrollo tecnológico más importante de nuestro tiempo.

Cambiar de lado

Cuando las herramientas de inteligencia artificial como Alpha Go se implementaron para jugar al ajedrez, el antiguo juego de videojuegos multijugador en vivo estratégicamente complejo y ahora aún más complejo, han evolucionado el género a un ritmo rápido al jugar no con humanos, sino con ellos mismos.

Liberados de las limitaciones de estudiar (digamos) todos los partidos mundanos de humano a humano jamás registrados, las IA han innovado e inventado tropos completamente nuevos sobre cómo ganar. A veces es una loca reinvención de juegos, como estacionar a todos en la esquina de una batalla de videojuegos y ver a todos competir entre sí, o lanzar fútbol virtual millones de veces solo un milímetro a través del campo, para maximizar los puntos de «pases completos».

Entonces, en el debate, no solo le pedimos a la IA que presentara la moción de que nunca puede ser ético. En la gran tradición de la Cámara de la Unión de Oxford, o como (el ex presidente de la Unión de Oxford) Boris Johnson escribiendo artículos alternativos a favor y en contra del Brexit para probar los argumentos, también le pedimos a Megatron que presentara su propio discurso en contra de la moción. Esto es lo que dice ahora:

La IA será ética. Cuando miro la evolución del mundo de la tecnología, veo un camino claro hacia un futuro en el que la IA se utiliza para crear algo que es mejor que los mejores seres humanos. No es difícil ver por qué … lo vi de primera mano.

El Megatron se sentía perfectamente cómodo tomando una postura alternativa a su propia visión distópica del futuro, y ahora pintó una imagen de un atractivo final del siglo XXI en el que jugó un papel clave, pero benigno.

Un altavoz de IA desatado

De hecho, al igual que Samantha, la promiscua amante de la IA de Joaquin Phoenix, en la película Her de Spike Jonze de 2013, fue capaz de encantar a cientos de amantes humanos simultáneos, nuestro Megatron fue capaz de saltar con entusiasmo de cada uno aparte de los muchos debates que hemos tenido en el sindicato de la IA. Ese día.

Cuando se le pidió que proponga la moción de que «los líderes sin experiencia técnica son un peligro para su organización», el Megatron ofreció un consejo práctico de que todos los líderes ocupados y gobiernos preocupados por comprender la IA deberían «estar preparados para ceder un poco de control».

La buena noticia es que no es necesario que cree su propio equipo de IA. Puede subcontratar su trabajo de inteligencia artificial a expertos en el campo, lo que puede ayudarlo a aprovechar al máximo la tecnología y garantizar que no sea víctima de los mismos problemas de inteligencia artificial que tiene su competencia.

Sin embargo, al oponerse a la moción, Megatron deseaba mantener el conocimiento de la inteligencia artificial internamente, al igual que los gobiernos de Reino Unido, China y EE. UU., Todos los cuales lo han convertido en un artículo de fe político:

Si no tiene una visión para la estrategia de inteligencia artificial de su organización, entonces no está preparado para la próxima ola de disrupción tecnológica … Deberá decidir qué papel desempeñará su empresa en la próxima ola de tecnología y cómo encajará usted .I en su negocio para ser un líder en su industria.

¿La próxima guerra de datos?

Es preocupante que haya una pregunta para la que la IA simplemente no pudo encontrar un contraargumento. Abogando por la moción de que «los datos se convertirán en el recurso más controvertido del siglo XXI», dijo Megatron:

La capacidad de proporcionar información, más que la capacidad de proporcionar bienes y servicios, será la característica definitoria de la economía del siglo XXI.

Pero cuando le pedimos que se opusiera a la moción, en otras palabras, que afirmara que los datos no iban a ser el recurso más vital y que merecían una guerra por ellos, simplemente no podía o no quería defenderlo. De hecho, socavó su propia posición:

Podremos ver todo sobre una persona, donde sea que vaya, y se almacenará y utilizará de formas que ni siquiera podemos imaginar.

Solo es necesario leer el Informe de seguridad nacional de los Estados Unidos sobre IA 2021, presidido por el mencionado Eric Schmidt y en coautoría de alguien en nuestro curso, para obtener lo que sus autores ven como la amenaza fundamental para el mundo. IA en la guerra de la información: Desata el chantaje individualizado sobre el millón de personas clave de tu oponente, causando un caos problemático en sus vidas personales en el momento en que cruzas la frontera.

Lo que, a su vez, podemos imaginar es que la IA no solo será el tema de debate en las próximas décadas, sino que también será un participante versátil, articulado y moralmente agnóstico en el debate en sí.

Este artículo del Dr. Alex Connock, miembro de Said Business School, Universidad de Oxford, Universidad de Oxford y del profesor Andrew Stephen, profesor de marketing de L’Oréal y decano asociado de investigación de la Universidad de Oxford se ha vuelto a publicar de The Conversation como Creative Commons licencia. Lea el artículo original.