Pioneros en inteligencia artificial ganan el Premio Nobel de Física

Dos pioneros de la inteligencia artificial, John Hopfield y Geoffrey Hinton, ganaron el martes el Premio Nobel de Física por ayudar a crear los componentes básicos del aprendizaje automático que está revolucionando la forma en que trabajamos y vivimos, pero que también crea nuevas amenazas para la humanidad.

Hinton, conocido como el padrino de la inteligencia artificial, es un ciudadano de Canadá y Gran Bretaña que trabaja en la Universidad de Toronto, y Hopfield es un estadounidense que trabaja en Princeton.

“Estos dos caballeros fueron realmente pioneros”, dijo Mark Pearce, miembro del comité de física del Nobel.

Las redes neuronales artificiales (nodos informáticos interconectados inspirados en las neuronas del cerebro humano) que los investigadores idearon se utilizan en toda la ciencia y la medicina y “también se han convertido en parte de nuestra vida diaria”, dijo Ellen Moons, del comité Nobel de la Real Academia Sueca de Ciencias.

Hopfield, cuyo trabajo de 1982 sentó las bases para el de Hinton, dijo a The Associated Press: “Sigo sorprendido por el impacto que ha tenido”.

Hinton predijo que la IA terminará teniendo una “enorme influencia” en la civilización, generando mejoras en la productividad y la atención médica.

“Sería comparable con la Revolución Industrial”, dijo en una conferencia abierta con periodistas y funcionarios de la Real Academia Sueca de Ciencias.

“No tenemos experiencia de lo que es tener cosas más inteligentes que nosotros. Y va a ser maravilloso en muchos aspectos”, dijo Hinton.

“Pero también tenemos que preocuparnos por una serie de posibles consecuencias negativas, en particular la amenaza de que estas cosas se salgan de control”.

Advertencia sobre los riesgos de la IA

El comité del Nobel también mencionó temores sobre posibles reveses.

Moons dijo que si bien tiene “enormes beneficios, su rápido desarrollo también ha suscitado inquietudes sobre nuestro futuro. Colectivamente, los humanos tenemos la responsabilidad de usar esta nueva tecnología de una manera segura y ética para el mayor beneficio de la humanidad”.

Hinton , quien renunció a un puesto en Google para poder hablar más libremente sobre los peligros de la tecnología que ayudó a crear, comparte esas preocupaciones.

«Me preocupa que la consecuencia general de esto pueda ser que sistemas más inteligentes que nosotros acaben tomando el control», dijo Hinton.

Por su parte, Hopfield, que firmó las primeras peticiones de los investigadores que pedían un control estricto de la tecnología, comparó los riesgos y beneficios de trabajar con virus y energía nuclear, capaces de ayudar y dañar a la sociedad. En una conferencia de prensa en Princeton, hizo referencia a las preocupaciones, mencionando la distopía imaginada en “1984” de George Orwell o el apocalipsis ficticio creado inadvertidamente por un físico ganador del Nobel en “La cuna del gato” de Kurt Vonnegut.

Ninguno de los ganadores estaba en casa para recibir la llamada.

Hopfield, quien se encontraba alojado con su esposa en una cabaña en Hampshire, Inglaterra, dijo que después de tomar un café y vacunarse contra la gripe, abrió su computadora y se encontró con un torbellino de actividad.

«Nunca había visto tantos correos electrónicos en mi vida», dijo. Agregó que lo esperaban una botella de champán y un tazón de sopa, pero dudaba que hubiera otros físicos en la ciudad que quisieran sumarse a la celebración.

Hinton dijo que estaba sorprendido por el honor.

“Estoy estupefacto. No tenía ni idea de que esto iba a pasar”, dijo cuando el comité del Nobel lo contactó por teléfono. Dijo que estaba en un hotel barato sin internet.

El trabajo de Hinton se considera «el nacimiento» de la IA

Hinton, de 76 años, ayudó a desarrollar una técnica en la década de 1980 conocida como retropropagación, que sirve para entrenar a las máquinas a “aprender” mediante el ajuste fino de los errores hasta que desaparezcan. Es similar a la forma en que aprende un estudiante: se califica una solución inicial y se identifican los fallos para que se los corrija y repare. Este proceso continúa hasta que la respuesta coincide con la versión de la realidad de la red.

Hinton tenía una formación poco convencional como psicólogo que también incursionó en la carpintería y tenía una genuina curiosidad sobre cómo funciona la mente, dijo su protegido Nick Frosst, quien fue la primera contratación de Hinton en la división de inteligencia artificial de Google en Toronto.

“Su alegría y su interés genuino en responder preguntas fundamentales creo que son claves para su éxito como científico”, dijo Frosst.

Pero no se detuvo en su trabajo pionero de los años 80.

“Ha estado probando constantemente cosas locas y algunas de ellas funcionan muy bien y otras no”, dijo Frosst. “Pero todas han contribuido al éxito del campo y han motivado a otros investigadores a probar también cosas nuevas”.

El equipo de Hinton en la Universidad de Toronto sorprendió a sus pares al usar una red neuronal para ganar la prestigiosa competencia de visión por computadora ImageNet en 2012. Eso generó una oleada de imitadores y fue «un momento muy, muy significativo en retrospectiva y en el curso de la historia de la IA», dijo el científico informático de la Universidad de Stanford y creador de ImageNet, Fei-Fei Li .

“Mucha gente considera que este es el nacimiento de la IA moderna”, afirmó.

Hinton y sus colegas científicos de IA Yoshua Bengio y Yann LeCun ganaron el premio más importante de la informática, el Premio Turing, en 2019.

“Durante mucho tiempo, la gente pensó que lo que hacíamos los tres era una tontería”, dijo Hinton a la AP en 2019. “Mi mensaje a los jóvenes investigadores es que no se desanimen si todo el mundo les dice que lo que están haciendo es una tontería”.

Muchos de los antiguos alumnos y colaboradores de Hinton lo siguieron en la industria tecnológica cuando esta empezó a capitalizar las innovaciones de la IA , y algunos iniciaron sus propias empresas de IA, entre ellas Cohere de Frosst y OpenAI, el fabricante de ChatGPT. Hinton dijo que utiliza herramientas de aprendizaje automático en su vida diaria.

“Siempre que quiero saber la respuesta a algo, simplemente le pregunto a GPT-4”, dijo Hinton en el anuncio del Nobel. “No confío totalmente en él porque puede alucinar, pero en casi todo no es un experto muy bueno. Y eso es muy útil”.

El premio de física para el trabajo pionero en IA es significativo

Hopfield, de 91 años, creó una memoria asociativa que puede almacenar y reconstruir imágenes y otros tipos de patrones en datos, dijo el comité Nobel.

De la misma forma que Hinton llegó a este campo desde la psicología, Hopfield destacó que la ciencia de vanguardia surge al cruzar las fronteras de campos científicos como la física, la biología y la química en lugar de que los investigadores se queden en su carril. Es por eso que este premio es un premio de física, dijo, señalando que su red neuronal toma elementos de la física de la materia condensada.

En el campo científico, cuando se trata de problemas grandes y complejos, “si no estás motivado por la física, simplemente no abordas esa clase de problemas”, afirmó Hopfield.

Si bien no existe un Nobel para la ciencia informática, Li dijo que otorgar un premio científico tradicional a los pioneros de la IA es significativo y muestra cómo se han desdibujado los límites entre las disciplinas.

Desacuerdo sobre los riesgos de la IA

No todos sus pares están de acuerdo con los premios Nobel sobre los riesgos de la tecnología que ayudaron a crear.

Frosst ha tenido muchos “animados debates” con Hinton sobre los riesgos de la IA y no está de acuerdo con algunas de las advertencias de Hinton, pero sí con su voluntad de abordarlas públicamente.

“En general, no estamos de acuerdo en cuanto a la escala temporal y la tecnología concreta sobre la que está dando la voz de alarma”, dijo Frosst. “No creo que las redes neuronales y los modelos lingüísticos tal como existen hoy en día supongan un riesgo existencial”.

Bengio, quien ha expresado durante mucho tiempo su preocupación por los riesgos de la IA, dijo que lo que realmente le alarma a él y a Hinton es la «pérdida de control humano» y si los sistemas de IA actuarán moralmente cuando sean más inteligentes que los humanos.

“No sabemos la respuesta a estas preguntas”, afirmó. “Y deberíamos asegurarnos de saberla antes de construir esas máquinas”.

Cuando se le preguntó si el comité del Nobel podría haber tenido en cuenta las advertencias de Hinton al decidir sobre el premio, Bengio desestimó esa idea y dijo que «estamos hablando de trabajos muy iniciales, cuando pensábamos que todo sería color de rosa».

El lunes se inauguraron seis días de anuncios de los Nobel, con la obtención del premio de medicina por parte de los estadounidenses Victor Ambros y Gary Ruvkun. El miércoles seguirán con el premio de química y el jueves con el de literatura. El viernes se anunciará el premio Nobel de la Paz y el 14 de octubre el de economía.

El premio está dotado con 11 millones de coronas suecas. (1 millón de dólares) procedentes de un legado dejado por el creador del galardón, el inventor sueco Alfred Nobel. Los galardonados están invitados a recibir sus premios en ceremonias que se celebrarán el 10 de diciembre, aniversario de la muerte de Nobel.