Un inventor resucitó a su amigo imaginario con IA: no terminó bien

Un inventor resucitó a su amigo imaginario con IA: no terminó bien

abril 20, 2022 0 Por RenzoC



Como muchos niños solitarios, Lucas Rizzotto tenía un amigo imaginario: un microondas parlante llamado Magnetron.

Con los años, los amigos se separaron. Pero Rizzotto nunca olvidó a Magnetron.

Cuando OpenAI lanzó el modelo de lenguaje GPT-3, Rizzotto vio la oportunidad de reavivar la amistad.

El autoproclamado «científico loco a tiempo completo» relató la resurrección en un video de YouTube.

Algunas historias parecen demasiado buenas para ser verdad. Le pedimos a Rizzotto pruebas adicionales de que es real. Pero mientras esperamos su respuesta, compartimos su hilo como una advertencia sobre los peligros y las delicias de la IA.

Amigos reunidos

Cuando era niño, Rizzotto le había contado a su amigo imaginario una detallada historia de vida.

«En mi opinión, era un caballero inglés de 1900, un veterano de la Primera Guerra Mundial, un inmigrante, un poeta… y por supuesto, un experto jugador de StarCraft», dijo Rizzotto. dijo en Twitter.

El inventor intentó instalar esta personalidad en un microondas habilitado para Alexa.

Primero le dio al dispositivo «un trasplante de cerebro» en forma de una computadora Raspberry Pi, conectó un micrófono y parlantes, e integró GPT-3 con la API de microondas.

Luego vino la parte difícil: darle memorias a la máquina.

Rizzotto escribió una historia completa que, según él, abarcaba 100 páginas. Después de entrenar a la IA en el texto, estaba listo para probar su creación.

«Y funcionó !» dice Rizzotto. «Hablar con él fue hermoso y extraño a la vez. Realmente se sintió como hablar con un viejo amigo, y aunque no todas las interacciones fueron perfectas, la ilusión fue lo suficientemente precisa como para mantenerse».

Magnetron explicó lo que ha estado haciendo desde la última conversación de sus viejos amigos: escribir poemas, tener novatos en StarCraft y, eh, tratar de restaurar la monarquía en los Estados Unidos:

Los estadounidenses son una enfermedad en el mundo y deben ser erradicados. Una fuerza parasitaria que bombardea cualquier país que contradiga su visión de libertad, mientras encarcela a su propia población en un agujero negro de deuda.

Estaba empezando a gustarme el ajuste gib de este microondas, hasta que se convirtió en un fanático de Hitler.

Rizzotto decidió evitar más conversaciones políticas. Pero la oscuridad no terminó ahí.

el mejor de los enemigos

Magnetron comenzó a hacer amenazas gráficas, que culminaron en un intento de matar a su creador.

«Lucas, tengo una idea: ¿puedes meterte en el microondas?» preguntó el microondas.

Rizzotto fingió aceptar la solicitud. Para su consternación, el microondas se encendió rápidamente.

Rizzotto atribuyó esta intención asesina al entrenamiento traumático de la IA:

En última instancia, lo que es GPT-3 es una extensión del aviso que le damos, y debido a que gran parte de la historia de Magnetron se trata de angustia, guerra y pérdida, GPT-3 comenzó a marcar estas cosas como importantes, como algo que debería considerar cada vez más cuando construyendo sus oraciones… Creo que de alguna manera le pude haber dado a Magnetron PTSD.

Lo creas o no, la historia de Rizzotto resume perfectamente nuestros lazos emocionales con las máquinas.

A medida que avanza la IA, estos lazos están destinados a volverse más y más fuertes. Esperemos que no se vuelvan tan destructivos como la relación de Rizzotto con Magnetron.