¿Puede el nuevo laboratorio de Timnit Gebru desafiar el control de las grandes tecnologías sobre la investigación de la IA?

Un año después del día después de ser despedido de Google, Timnit Gebru ha revelado planes para sacar la investigación de la IA fuera del alcance de la gran tecnología.

Gebru, ex codirector del equipo de IA ética de Google, lanzó el jueves un laboratorio independiente: el Distributed AI Research Institute (DAIR).

Con un presupuesto inicial de 3,7 millones de dólares recaudados de fundaciones, DAIR se centrará en la investigación a largo plazo y basada en la comunidad, que puede ser difícil de hacer en Silicon Valley.

«Las estructuras de incentivos en la industria y las instituciones académicas de élite que están tan estrechamente vinculadas a estas empresas de tecnología no permiten, en mi opinión, el tipo de trabajo que quiero hacer», dijo Gebru durante una cumbre organizada por Women in AI Ethics. .

La iniciativa fomenta la investigación que analiza los objetivos finales y los riesgos potenciales desde el principio. Además de criticar la tecnología existente, Gebru quiere que DAIR proporcione un modelo positivo para la investigación de la IA.

Esta ambición se refleja en la primera palabra del acrónimo del laboratorio: distribuido. Gebru dijo que nadie tendrá que dejar su comunidad para trabajar en DAIR:

La tecnología está afectando al mundo entero, pero el mundo entero no tiene la suerte de afectar la tecnología en este momento. Si quieres una investigación arraigada en la comunidad y tienes que sacar a la gente de sus comunidades, y todos tienen que ir a Silicon Valley… Ese no es el tipo de cosas a las que quiero contribuir.

En DAIR, el personal realizará investigaciones que afecten a sus comunidades. Gebru da el ejemplo de investigadores de Sudáfrica que utilizan imágenes satelitales y visión por computadora para analizar el «apartheid espacial», la segregación geográfica que persiste hasta el día de hoy.

Liberados de las ataduras de la gran tecnología, los investigadores de DAIR podrían llevar a cabo proyectos que consideren importantes y comunicar los resultados como mejor les parezca.

Gebru tiene experiencia directa sobre cómo las empresas de tecnología pueden influir en estas decisiones. Su despido fue provocado por una disputa sobre un trabajo de investigación sobre los riesgos de los modelos de lenguaje extenso, que se utilizan en muchos productos de Google.

Es posible que DAIR no obtenga los fondos que su empleador anterior podría ofrecer, pero de alguna manera esto podría beneficiar al instituto.