Cómo un cerebro de IA con una sola neurona podría superar a los humanos

Un equipo multidisciplinario de investigadores de la Technische Universität Berlin creó recientemente una «red» neuronal que algún día podría superar el poder del cerebro humano con una sola neurona.

Nuestro cerebro tiene alrededor de 86 mil millones de neuronas. Combinados, constituyen una de las redes neuronales orgánicas más avanzadas que se conocen.

Los sistemas de inteligencia artificial de vanguardia de hoy en día intentan imitar el cerebro humano mediante la creación de redes neuronales de varias capas diseñadas para meter tantas neuronas en el menor espacio posible.

Desafortunadamente, tales diseños requieren enormes cantidades de energía y producen resultados que palidecen en comparación con el cerebro humano resistente y eficiente en el uso de energía.

Según un artículo de Katyanna Quach de The Register, los científicos estiman que los costos de entrenar una sola «superred» neuronal superan los de una misión espacial cercana:

Las redes neuronales y la cantidad de hardware necesario para entrenarlas utilizando enormes conjuntos de datos están aumentando de tamaño. Tome GPT-3 como ejemplo: tiene 175 mil millones de parámetros, 100 veces más que su predecesor GPT-2.

Más grande puede ser mejor en términos de rendimiento, pero ¿a qué costo para el planeta? Carbontracker estima que el entrenamiento de GPT-3 solo requiere la misma cantidad de energía utilizada por 126 hogares en Dinamarca por año, o conducir a la Luna y regresar.

El equipo de Berlín decidió desafiar la idea de que cuanto más grande mejor, construyó una red neuronal que usa una sola neurona.

Por lo general, una red necesita múltiples nodos. En este caso, sin embargo, la neurona única puede conectarse en red extendiéndose en el tiempo en lugar del espacio.

Según el trabajo de investigación del equipo:

Hemos ideado un método para el plegado a tiempo completo de un DNN anticipado de múltiples capas. Este enfoque Fit-DNN requiere solo una neurona con bucles de retardo modulados por retroalimentación. A través de la secuenciación temporal de operaciones no lineales, se puede realizar un DNN arbitrariamente profundo o ancho.

En una red neuronal tradicional, como GPT-3, cada neurona se puede ponderar para refinar los resultados. El resultado, generalmente, es que más neuronas producen más parámetros, y más parámetros producen mejores resultados.

Pero el equipo de Berlín descubrió que podía realizar una función similar al ponderar la misma neurona de manera diferente a lo largo del tiempo en lugar de distribuir neuronas de diferentes pesos en el espacio.

Según un comunicado de prensa de la Technische Universität Berlin:

Equivaldría a un solo invitado simulando una conversación en una mesa grande cambiando rápidamente de asiento y hablando cada parte.

Sin embargo, «rápidamente» es un eufemismo. El equipo dice que, en teoría, su sistema puede alcanzar velocidades cercanas al límite del universo al activar bucles de retroalimentación basados ​​en el tiempo en la neurona a través de láseres, una red neuronal a la velocidad de la luz o cerca de ella.

¿Qué significa esto para la IA? Según los investigadores, esto podría contrarrestar los crecientes costos de energía asociados con la formación de redes sólidas. Eventualmente, nos quedaremos sin energía factible para usar si continuamos duplicando o triplicando los requisitos de uso con redes más grandes a lo largo del tiempo.

Pero la verdadera pregunta es si una sola neurona atrapada en un ciclo de tiempo puede producir los mismos resultados que miles de millones.

En las pruebas iniciales, los investigadores utilizaron el nuevo sistema para realizar funciones de visión artificial. Pudo eliminar el ruido agregado manualmente de las imágenes de la ropa para producir una imagen precisa, que se considera bastante avanzada para la IA moderna.

Con un mayor desarrollo, los científicos creen que el sistema podría extenderse para crear «un número ilimitado» de conexiones neuronales a partir de neuronas suspendidas en el tiempo.

Es posible que un sistema de este tipo supere al cerebro humano y se convierta en la red neuronal más poderosa del mundo, lo que los expertos en IA llaman una «superinteligencia».